|
| Дата |
|
USD/RUB | 93.4409 | BTC/USD | 63911.2956 |
|
|
|
Скрипты, программы и технические решения Обсуждаем скрипты, программы и новые технологии. |
31.10.2011, 02:52
|
#1
|
Senior Member
Регистрация: 26.10.2009
Сообщений: 597
Бабло: $127864
|
На сплоги напали боты
User-Agent: FPLinkChecker/1.2 ебет нереально, аж БД со статой переодически отваливается. Резать\не резать? Что за зверь? Кто сталкивался?
|
|
|
31.10.2011, 04:01
|
#2
|
Senior Member
Регистрация: 19.09.2009
Сообщений: 4,096
Бабло: $611825
|
Сделай в robots.txt:
Crawl-Delay: 30
задержка в 30 сек, нормальные боты ее понимают.
А твоего бы я порезал или бы влез в код сплога и поставил бы задержку на отдачу страницы секунды в 3.
|
|
|
31.10.2011, 05:17
|
#4
|
Senior Member
Регистрация: 26.10.2009
Сообщений: 597
Бабло: $127864
ТС -->
|
ТС
Просто у меня сплоги плотно с социалками завязаны, поэтому много разных ходит. Ну этот чет борзеет) Убил уже
.htaccess
|
|
|
31.10.2011, 06:38
|
#5
|
автоматизирую интернеты
Регистрация: 05.07.2009
Адрес: chesser.ru
Сообщений: 3,362
Бабло: $470735
|
я если сомневаюсь, то режу скорость nginx'ом
но чаще отворот поворот на 444 ошибку
это что за пиздец?
|
|
|
31.10.2011, 06:50
|
#6
|
Senior Member
Регистрация: 26.10.2009
Сообщений: 597
Бабло: $127864
ТС -->
|
ТС
Это редир бота на локалхост, чтоб сам себя дрючил
|
|
|
31.10.2011, 06:58
|
#7
|
автоматизирую интернеты
Регистрация: 05.07.2009
Адрес: chesser.ru
Сообщений: 3,362
Бабло: $470735
|
Цитата:
Сообщение от Diplomat
Это редир бота на локалхост, чтоб сам себя дрючил
|
а, теперь понял
|
|
|
31.10.2011, 07:31
|
#8
|
Senior Member
Регистрация: 18.08.2010
Сообщений: 360
Бабло: $66120
|
нужно тогда [r=301,nc] дописать, а так вроде как ты сам себя дрочишь
|
|
|
31.10.2011, 08:31
|
#9
|
Senior Member
Регистрация: 26.10.2009
Сообщений: 597
Бабло: $127864
ТС -->
|
ТС
Цитата:
Сообщение от xanxy
нужно тогда [r=301,nc] дописать, а так вроде как ты сам себя дрочишь
|
Все ок, проверял.
|
|
|
31.10.2011, 09:39
|
#10
|
автоматизирую интернеты
Регистрация: 05.07.2009
Адрес: chesser.ru
Сообщений: 3,362
Бабло: $470735
|
Цитата:
Сообщение от Diplomat
Все ок, проверял.
|
а проверь еще раз
и если уж апач, то вот топик с примерами правильной обработки ботов:
http://www.gofuckbiz.com/showthread.php?t=26545
SetEnvIfNoCase вместо RewriteRule
|
|
|
|