DLE кладет сервер - Форум успешных вебмастеров - GoFuckBiz.com - Страница 3
 
 
Форум успешных вебмастеров - GoFuckBiz.com

  Форум успешных вебмастеров - GoFuckBiz.com > Бизнес-решения > Скрипты, программы и технические решения
Дата
USD/RUB89.7026
BTC/USD69391.8925
Скрипты, программы и технические решения Обсуждаем скрипты, программы и новые технологии.

Закрытая тема
Опции темы Опции просмотра
Старый 27.08.2012, 10:20
Start Post: DLE кладет сервер 
  #21
mamba
Mamber
 
Аватар для mamba
 
Регистрация: 28.12.2010
Адрес: Green Street
Сообщений: 3,197
Бабло: $478630
По умолчанию

Сервер Intel Core i7-2600 Processor + 16GB RAM

На серваке сайты на dle 9.4
Трафика прилично - из за чего сервер шатается и мускул регулярно весело лежит.

Кэширование включено, но не особо помогает. Модули отрубать нельзя и разные вещи типа вывода "популярных новостей и голосовалок" так же не надо отрубать.

Инферновские админы регулярно помогают, что то поднастраивают, пару дней работает - потом опять живу в тикетах...

Кто что посоветует предпринять? Либо подкрутить двиг, либо есть архи админ, который настроит сервак, что все будет летать.... Заплачу, договоримся...

Сайты же типа http://www.heroturko.me/ держат лямы страниц в индексе и тонны трафа...
mamba вне форума  
Старый 27.08.2012, 14:54   #22
mamba
Mamber
 
Аватар для mamba
 
Регистрация: 28.12.2010
Адрес: Green Street
Сообщений: 3,197
Бабло: $478630
ТС -->
автор темы ТС По умолчанию

Кэширование то стоит... надо как херотурко бы сделать, защиту от грабба
mamba вне форума  
Старый 28.08.2012, 03:04   #23
chesser
автоматизирую интернеты
 
Аватар для chesser
 
Регистрация: 05.07.2009
Адрес: chesser.ru
Сообщений: 3,362
Бабло: $470735
По умолчанию

Цитата:
Сообщение от mamba Посмотреть сообщение
Кэширование то стоит...
вот эта фраза меня всегда вводит в ступор, т.к. веб-кеширование имеет штук 10 разновидностей и не каждое помогает в конкретной ситуации, иногда может усугубить.
Для динамичных сайтов во-первых нужно постараться поискать статичные ресурсы и постараться их отгородить nginx-ом. Во-вторых - закешировать на клиентах все, что возможно. Далее спасает память и объектное кеширование в нее на бекенде, в том числе кеширование ответов в mysql, хотя это не очень красивая мера.

попробуй кешировать на уровне БД, т.е. ответы на запросы, иногда помогает продлить жизнь проекта, если оно еще не включено.

Немного слов об оптимизации сервера

можно еще закешироваться в облаках
__________________
USA и NL серверы и VPS | wiki | блог | Drupal | NginxТДС
Ave, Google, morituri te salutant! © chesser
chesser вне форума  
Старый 28.08.2012, 03:10   #24
Drunk Monk
Je suis moine ivre
 
Аватар для Drunk Monk
 
Регистрация: 03.03.2009
Сообщений: 15,268
Бабло: $797172957
По умолчанию

chesser, там есть дефолтное кеширование некоторых страниц в файлы. Со временем получается папка с ахулионом файлов, содержащих html какой-нибудь триста сорок пятой страницы в категории "Мотоциклы", ну и т.д.
Drunk Monk вне форума  
Старый 28.08.2012, 03:16   #25
chesser
автоматизирую интернеты
 
Аватар для chesser
 
Регистрация: 05.07.2009
Адрес: chesser.ru
Сообщений: 3,362
Бабло: $470735
По умолчанию

Цитата:
Сообщение от Drunk Monk Посмотреть сообщение
chesser, там есть дефолтное кеширование некоторых страниц в файлы. Со временем получается папка с ахулионом файлов, содержащих html какой-нибудь триста сорок пятой страницы в категории "Мотоциклы", ну и т.д.
вот я про это и говорю )) что "включили кеширование" и "мы пытались и все бесполезно" означают одно и тоже
вообще, кешировать в файлы - это опасная тема )) особенно, если диски слабые, да и в ОС может стоять мелкое ограничение на буфер дискового кеша.

Offtopic
__________________
USA и NL серверы и VPS | wiki | блог | Drupal | NginxТДС
Ave, Google, morituri te salutant! © chesser
chesser вне форума  
Старый 28.08.2012, 08:24   #26
mamba
Mamber
 
Аватар для mamba
 
Регистрация: 28.12.2010
Адрес: Green Street
Сообщений: 3,197
Бабло: $478630
ТС -->
автор темы ТС По умолчанию

Цитата:
Сообщение от Drunk Monk
Со временем получается папка с ахулионом файлов, содержащих html какой-нибудь триста сорок пятой страницы в категории "Мотоциклы", ну и т.д.
Ну так можно сделать так, чтоб этот кэш периодически чистился...

До сих пор воюю с дле.. на серваке сайтов 6, и на одном траф вырос и началась огония, вторые сутки через пень колоду.

Возможно начинают грабить и все ложится...
Но с другой стороны там постоянно дрочится поиск по новостям, мускул шатает... но без этого никак=(((

На ДЛЕ есть какой крутяцкий антиграбер?
mamba вне форума  
Старый 28.08.2012, 08:24   #27
chesser
автоматизирую интернеты
 
Аватар для chesser
 
Регистрация: 05.07.2009
Адрес: chesser.ru
Сообщений: 3,362
Бабло: $470735
По умолчанию

Offtopic

Цитата:
Сообщение от mamba Посмотреть сообщение
Возможно начинают грабить и все ложится...

На ДЛЕ есть какой крутяцкий антиграбер?
включи это: http://nginx.org/ru/docs/http/ngx_ht...eq_module.html
http://www.hilik.org.ua/nginx-limit-zone-limit-req/

оно поможет от тупого парсинга
__________________
USA и NL серверы и VPS | wiki | блог | Drupal | NginxТДС
Ave, Google, morituri te salutant! © chesser
chesser вне форума  
Старый 28.08.2012, 08:58   #28
mamba
Mamber
 
Аватар для mamba
 
Регистрация: 28.12.2010
Адрес: Green Street
Сообщений: 3,197
Бабло: $478630
ТС -->
автор темы ТС По умолчанию

Сейчас нашли опытного опытного админа. Должны запилить все...

Просто мало ли кто тут на DLE гоняет сайты, да сталкивался с траблами. Мож антиграберы есть и т.д.
mamba вне форума  
Старый 28.08.2012, 09:01   #29
1een
Senior Member
 
Аватар для 1een
 
Регистрация: 28.05.2009
Сообщений: 1,321
Бабло: $164090
По умолчанию

Как ты себе представляешь эти антиграберы? Если я паршу в 50 потоков с пулом в 3000 живых проксей.
1een вне форума  
Старый 28.08.2012, 09:09   #30
mamba
Mamber
 
Аватар для mamba
 
Регистрация: 28.12.2010
Адрес: Green Street
Сообщений: 3,197
Бабло: $478630
ТС -->
автор темы ТС По умолчанию

Ну мне хотя бы школьников отогнать нахер... Прокси будут затратны... ведь есть куча ресов где не надо прокси))

Да и еще хз пойми почему то лежим\ то не лежим

ночь сервак пролежал, сейчас бегает шустро с тем же кол-вом трафа и настройками.

Возможно знач граб или ддос блиа=(

Последний раз редактировалось Moderator; 30.08.2012 в 00:28.
mamba вне форума  
Старый 28.08.2012, 09:51   #31
WebNinja
grablab.org
 
Аватар для WebNinja
 
Регистрация: 18.09.2007
Адрес: Thailand
Сообщений: 4,893
Бабло: $322264
Отправить сообщение для WebNinja с помощью ICQ Отправить сообщение для WebNinja с помощью Skype™
По умолчанию

кэшируй в редис короче.

Цитата:
Как ты себе представляешь эти антиграберы? Если я паршу в 50 потоков с пулом в 3000 живых проксей.
ага + 100, 50 потоков это дохрена ) такое далеко не каждый сайт выдержит.
__________________
www.imscraping.ninja
grablab.org | blog
WebNinja вне форума