Кэширование с Varnish. Готовим HTTP-сервер к слэшдот-эффекту::Журнал СА 12.2014
www.samag.ru
     
Поиск   
              
 www.samag.ru    Web  0 товаров , сумма 0 руб.
E-mail
Пароль  
 Запомнить меня
Регистрация | Забыли пароль?
Журнал "Системный администратор"
Журнал «БИТ»
Подписка
Архив номеров
Где купить
Наука и технологии
Авторам
Рекламодателям
Контакты
   

  Опросы
  Статьи

Дата-центры  

Дата-центры: есть ли опасность утечки данных?

Российские компании уже несколько лет испытывают дефицит вычислительных мощностей. Рост числа проектов,

 Читать далее...

Книжная полка  

Защиты много не бывает

Среди книжных новинок издательства «БХВ» есть несколько изданий, посвященных методам социальной инженерии

 Читать далее...

Событие  

В банке рассола ждет сисадмина с полей фрактал-кукумбер

Читайте впечатления о слете ДСА 2024, рассказанные волонтером и участником слета

 Читать далее...

Организация бесперебойной работы  

Бесперебойная работа ИТ-инфраструктуры в режиме 24/7 Как обеспечить ее в нынешних условиях?

Год назад ИТ-компания «Крок» провела исследование «Ключевые тренды сервисного рынка 2023». Результаты

 Читать далее...

Книжная полка  

Читайте и познавайте мир технологий!

Издательство «БХВ» продолжает радовать выпуском интересных и полезных, к тому же прекрасно

 Читать далее...

СУБД PostgreSQL  

СУБД Postgres Pro

Сертификация по новым требованиям ФСТЭК и роль администратора без доступа к данным

 Читать далее...

Критическая инфраструктура  

КИИ для оператора связи. Готовы ли компании к повышению уровня кибербезопасности?

Похоже, что провайдеры и операторы связи начали забывать о требованиях законодательства

 Читать далее...

Архитектура ПО  

Архитектурные метрики. Качество архитектуры и способность системы к эволюционированию

Обычно соответствие программного продукта требованиям мы проверяем через скоуп вполне себе понятных

 Читать далее...

Как хорошо вы это знаете  

Что вам известно о разработках компании ARinteg?

Компания ARinteg (ООО «АРинтег») – системный интегратор на российском рынке ИБ –

 Читать далее...

Графические редакторы  

Рисование абстрактных гор в стиле Paper Cut

Векторный графический редактор Inkscape – яркий представитель той прослойки open source, с

 Читать далее...

День сисадмина  

Учите матчасть! Или как стать системным администратором

Лето – время не только отпусков, но и хорошая возможность определиться с профессией

 Читать далее...

День сисадмина  

Живой айтишник – это всегда движение. Остановка смерти подобна

Наши авторы рассказывают о своем опыте и дают советы начинающим системным администраторам.

 Читать далее...

Виртуализация  

Рынок решений для виртуализации

По данным «Обзора российского рынка инфраструктурного ПО и перспектив его развития», сделанного

 Читать далее...

Книжная полка  

Как стать креативным и востребованным

Издательский дом «Питер» предлагает новинки компьютерной литературы, а также книги по бизнесу

 Читать далее...

1001 и 1 книга  
19.03.2018г.
Просмотров: 6413
Комментарии: 0
Машинное обучение с использованием библиотеки Н2О

 Читать далее...

12.03.2018г.
Просмотров: 7117
Комментарии: 0
Особенности киберпреступлений в России: инструменты нападения и защита информации

 Читать далее...

12.03.2018г.
Просмотров: 4395
Комментарии: 0
Глубокое обучение с точки зрения практика

 Читать далее...

12.03.2018г.
Просмотров: 3086
Комментарии: 0
Изучаем pandas

 Читать далее...

12.03.2018г.
Просмотров: 3881
Комментарии: 0
Программирование на языке Rust (Цветное издание)

 Читать далее...

19.12.2017г.
Просмотров: 3897
Комментарии: 0
Глубокое обучение

 Читать далее...

19.12.2017г.
Просмотров: 6385
Комментарии: 0
Анализ социальных медиа на Python

 Читать далее...

19.12.2017г.
Просмотров: 3233
Комментарии: 0
Основы блокчейна

 Читать далее...

19.12.2017г.
Просмотров: 3529
Комментарии: 0
Java 9. Полный обзор нововведений

 Читать далее...

16.02.2017г.
Просмотров: 7364
Комментарии: 0
Опоздавших не бывает, или книга о стеке

 Читать далее...

17.05.2016г.
Просмотров: 10726
Комментарии: 0
Теория вычислений для программистов

 Читать далее...

30.03.2015г.
Просмотров: 12445
Комментарии: 0
От математики к обобщенному программированию

 Читать далее...

18.02.2014г.
Просмотров: 14096
Комментарии: 0
Рецензия на книгу «Читаем Тьюринга»

 Читать далее...

13.02.2014г.
Просмотров: 9192
Комментарии: 0
Читайте, размышляйте, действуйте

 Читать далее...

12.02.2014г.
Просмотров: 7141
Комментарии: 0
Рисуем наши мысли

 Читать далее...

10.02.2014г.
Просмотров: 5446
Комментарии: 3
Страна в цифрах

 Читать далее...

18.12.2013г.
Просмотров: 4683
Комментарии: 0
Большие данные меняют нашу жизнь

 Читать далее...

18.12.2013г.
Просмотров: 3495
Комментарии: 0
Компьютерные технологии – корень зла для точки роста

 Читать далее...

04.12.2013г.
Просмотров: 3212
Комментарии: 0
Паутина в облаках

 Читать далее...

03.12.2013г.
Просмотров: 3449
Комментарии: 0
Рецензия на книгу «MongoDB в действии»

 Читать далее...

02.12.2013г.
Просмотров: 3090
Комментарии: 0
Не думай о минутах свысока

 Читать далее...

Друзья сайта  

 Кэширование с Varnish. Готовим HTTP-сервер к слэшдот-эффекту

Архив номеров / 2014 / Выпуск №12 (145) / Кэширование с Varnish. Готовим HTTP-сервер к слэшдот-эффекту

Рубрика: Администрирование /  Кэширование

Денис Силаков ДЕНИС СИЛАКОВ, кандидат ф.-м. н., начальник отдела технологических разработок и сопровождения ООО «НТЦ ИТ РОСА», denis.silakov@rosalab.ru

Кэширование с Varnish
Готовим HTTP-сервер к слэшдот-эффекту

Ускорить обработку входящих запросов можно с помощью кэширования ответов сервера. В этой статье мы познакомимся с одним из лидеров в сфере обработки запросов HTTP

У большинства системных администраторов слова «кэширование» и «веб» ассоциируются с прокси-сервером Squid – популярным решением, позволяющим кэшировать практически любой вид трафика и существенно снижать нагрузку на сетевые каналы. Squid является настоящим комбайном, допускающим разнообразные сценарии использования. Но нередко оборотной стороной многофункциональности является недостаточная проработка каждого конкретного сценария. Универсальный алгоритм – это хорошо, но алгоритм, заточенный на конкретную задачу, обычно решает ее быстрее.

Именно таким частным решением и является Varnish, главная и единственная задача которого – ускорение работы HTTP-сервера. Никакого кэширования FTP, никакой поддержки развертывания на шлюзе в локальную сеть для экономии внешнего трафика – исключительно прослойка между HTTP-сервером и обращающимися к нему пользователями, позволяющая снизить нагрузку на первого и в то же время ускорить время обработки запросов последних.

Принципы работы

Базовый принцип работы Varnish ничем не отличается от других программ кэширования – он принимает запрос от клиента и смотрит, не было ли такого запроса ранее и не присутствует ли ответ на него в кэше. Если ответ имеется, то он извлекается из кэша, а если нет, то запрос передается серверу, а ответ от сервера передается клиенту и помещается в кэш для будущего использования. По оценкам разработчиков Varnish, извлечение ответа из кэша происходит на два порядка быстрее, чем обработка запроса сервером, и в реальной жизни с помощью Varnish можно добиться ускорения работы HTTP-сервиса в десятки, а то и в сотни раз.

Varnish использует многопоточную (multithread) модель работы – каждый запрос от клиента обрабатывается в отдельном потоке. В версии 3.0 и ранее в том же потоке происходило и обращение к HTTP-серверу (при необходимости), но в версии 4.0 эти две задачи (получение запроса от пользователя и передача запроса серверу) разнесли по разным потокам. Такая реализация предоставляет больше гибкости, а также увеличивает отзывчивость Varnish.

Многопоточность реализуется с помощью стандартных потоков POSIX и производительность Varnish напрямую связана с качеством реализации этих потоков в ОС. Собственно, этим и обусловлена сложность развертывания Varnish на Windows.

Число потоков не бесконечно и ограничено настройками Varnish. При достижении предела, новые запросы помещаются в очередь на обработку и извлекаются оттуда по мере освобождения потоков. Однако и эта очередь не бесконечна, и при достижении ее лимита запросы начинают отбрасываться. Впрочем, «пресытить» Varnish гораздо сложнее, чем непосредственно HTTP-сервер, и для организации атак типа «отказ в обслуживании» злоумышленникам придется приложить гораздо больше усилий.

Другой особенностью Varnish является использование памяти. По умолчанию, приложение хранит весь кэш в виртуальной памяти, доступной процессу Varnish. Что из этого находится в оперативной памяти, а что кэшируется на диск – полностью отдается на откуп ОС. В этом заключается одно из корневых отличий архитектуры Varnish от многих других схожих приложений, включая Squid.

По мнению автора Varnish (имеющего за плечами многолетний опыт работы над внутренностями FreeBSD), многие современные приложения нередко используют принципы, которые были актуальны лет тридцать назад. Тогда был дорог каждый байт оперативной памяти, объемы жестких дисков были довольно ограничены, а возможности ОС далеки от совершенства. Как следствие, многие сложные приложения самостоятельно пытались определить, какие данные в текущий момент времени должны размещаться в оперативной памяти, а какие на диске. По мнению автора Varnish [1], ядра современных ОС справляются с этим как минимум не хуже, а попытка дублировать их работу приводит только к излишним вычислительным издержкам и к ненужному усложнению логики работы программ. Судя по результатам, демонстрируемым Varnish, это утверждение очень даже обоснованно.

Отметим, что Varnish хорошо подходит для кэширования динамических страниц. Во-первых, он поддерживает ESI (Edge Side Includes) – механизм, позволяющий разбивать страницу на логические части, а при обработке страницы делать дополнительные запросы для получения содержимого этих частей. Кроме того, в качестве идентификатора страницы в кэше может использоваться не только URL, но и любая другая информация, пришедшая в запросе, – например, значения различных cookie.

Установка

Пакеты Varnish можно найти в репозиториях большинства дистрибутивов, правда, обычно в неофициальных, наподобие EPEL или Ubuntu Universe. Включен Varnish и в систему портов FreeBSD – ww w/varnish (удивляться этому не стоит, поскольку создатель и основной архитектор программы имеет большой стаж работы над системными компонентами FreeBSD). Благодаря сторонним контрибьюторам Varnish доступен на многих *nix-системах – NetBSD, OpenBSD, OS X, Solaris и производных. С Windows ситуация сложнее – установить Varnish можно, но только с использованием библиотек Cygwin. Далеко не факт, что производительность результирующего продукта вас устроит.

Если вы работаете в Ubuntu, Debian, RHEL и производных, то можно взять готовые пакеты непосредственно с сайта проекта [2].

Обычно версии на сайте более свежие; последние версии серверного ПО нередко вызывают опасения у опытных администраторов, но Varnish – не тот случай. В настоящее время разработчики поддерживают линейки 3.0.x и 4.0.x. Обе считаются стабильными, последнее обновление для 3.0 вышло в октябре 2014 года, а в апреле 2015-го планируется прекратить поддержку этой версии – к этому времени исполнится год с момента выпуска 4.0. К слову, 3.0 была выпущена в июне 2011-го и за три года претерпела довольно мало изменений (сводившихся к исправлению немногочисленных ошибок), добравшись до версии 3.0.6.

В наших экспериментах мы использовали версию 4.0.2 с сайта в дистрибутиве ROSA Server 6.6 (основанного на RHEL 6.6). Для установки пакета Varnish понадобилось также подключить репозитории EPEL. Отметим, что Varnish четвертой версии для RHEL и его клонов доступен только в 64-битном варианте.

Статью целиком читайте в журнале «Системный администратор», №12 за 2014 г. на страницах 26-30.

PDF-версию данного номера можно приобрести в нашем магазине.


Комментарии отсутствуют

Добавить комментарий

Комментарии могут оставлять только зарегистрированные пользователи

               Copyright © Системный администратор

Яндекс.Метрика
Tel.: (499) 277-12-45
E-mail: sa@samag.ru