Проводил эксперимент. Несколько десятков сатов под АГС. Запретил индексацию через robots.txt. Ушли из индекса — осталось только по 1 страница, да и то только url и title. Разрешил индексацию в robots.txt. И моментально — через несколько часов в индексе стало 2 страницы. Боты Яндекса так интенсивно проверяют АГС сайты? пост написан в рамках программы «спаси могз от обсуждения эфира путина»
Возможно вам будет это интересно
- 31 Мар 2011
- 1,2K views
Вообще ФБ удивляет своей рекомендацией друзей. Иногда советует реальных знакомых, с которыми нет ничего технического общего — ни…
- 11 Окт 2013
- 1,1K views
Произошла утечка исходника одного нового поисковика select * from bigdata where text like «%{$searchquery}%»
Что-то нафлудил на я на ночь глядя
- 14 Ноя 2010
- 1,3K views
- 4 Июл 2011
- 1,2K views
Может быть кто-то сталкивался с такой бедой. Стоит стандартный CentOs+ISP manager+fastcgi. Codeigniter не работает. Сначала modrewrite пришлось переписать.…
- 15 Ноя 2010
- 1,1K views
Есть такая болезнь: пытаться привлечь посетителей в торговый центр. Когда магазин находится в мертвом торговом центре, в офисе…
- 20 Окт 2006
- 917 просмотров
Отличный снимок от ph0tographix