Я делаю как-то так:
Код:
#linkpad.ru
user-agent: LinkpadBot
disallow: /
#majestic.com
user-agent: MJ12bot
disallow: /
#ahrefs.com
user-agent: AhrefsBot
disallow: /
#moz.com
user-agent: rogerbot
disallow: /
user-agent: dotbot
disallow: /
#semrush.com
user-agent: SemrushBot
disallow: /
Какие еще сервисы есть, которые следует закрыть?
Цитата:
Сообщение от vistacmarketing
Maximus325, закрывал мажестик бота через роботс, половина ссылок отсеклать, но все равно много че лишнего показывает
|
Да просто время должно пройти, они не сразу убирают ссылки из базы. Если с самого начала запретить, то у меня их бот прибегает иногда, но ничего не индексирует.