Проводил эксперимент. Несколько десятков сатов под АГС. Запретил индексацию через robots.txt. Ушли из индекса — осталось только по 1 страница, да и то только url и title. Разрешил индексацию в robots.txt. И моментально — через несколько часов в индексе стало 2 страницы. Боты Яндекса так интенсивно проверяют АГС сайты? пост написан в рамках программы «спаси могз от обсуждения эфира путина»
Возможно вам будет это интересно
- 24 Дек 2013
- 711 просмотров
Еще 2 банка: «Аскольд» и «Рублевский» потеряли лицензии.
- 4 Мар 2011
- 703 просмотра
Это не шутка? Завтра рабочий день?
- 25 Июл 2007
- 798 просмотров
Снести «Миранду» и поставить вместо этого как минимум Rambler-ICQ — вот он, путь к деградации
- 8 Фев 2011
- 725 просмотров
По сообщению авторитетного агентства LBTM, Яндекс больше не будет обновлять тИЦ. Именно поэтому его последнее обновление произошло 31.12.…
- 10 Дек 2011
- 728 просмотров
По итогам митинга Варламов будет судиться с РИА за вертолет
- 2 Июн 2014
- 779 просмотров
Из резюме: 3 года работы на Swift