Проводил эксперимент. Несколько десятков сатов под АГС. Запретил индексацию через robots.txt. Ушли из индекса — осталось только по 1 страница, да и то только url и title. Разрешил индексацию в robots.txt. И моментально — через несколько часов в индексе стало 2 страницы. Боты Яндекса так интенсивно проверяют АГС сайты? пост написан в рамках программы «спаси могз от обсуждения эфира путина»
Возможно вам будет это интересно
- 20 Дек 2011
- 1,4K views
Слив перегоров про Немцова организовали Цукенберг, Клименко, Брин и Носик. А то траффик просто начал падать в социальных…
- 5 Фев 2011
- 780 просмотров
Наше государство — самое оперативное. Только «вчера» Навальный собрал денег на право дело, а сегодня ФинМониторинг заявляет, что…
- 23 Сен 2011
- 882 просмотра
«Медведев предложил увольнять чиновников в связи с утратой доверия» …. Всех?
- 20 Сен 2011
- 1,1K views
У меня в мое ленте чуть ниже стоит пост-лайк. Чудесный скрипт. Не спрашивая дополнительных разрешений сразу постит в…
- 14 Окт 2011
- 728 просмотров
Есть такой клевый мужик, Натан Смит. Делает отличные фрейворки css+js. Написал мне письмо, мол давай сделай моих технологий.…
- 22 Дек 2012
- 856 просмотров
Ем мандаринки, смотрю кино, бесплатный wifi, камень из почек извлекли, кормят 5 раз в день. Какой смысл вообще…