SQL, noSQL, немного ВКонтакте::Журнал СА 11.2011
www.samag.ru
Журнал «БИТ. Бизнес&Информационные технологии»      
Поиск   
              
 www.samag.ru    Web  0 товаров , сумма 0 руб.
E-mail
Пароль  
 Запомнить меня
Регистрация | Забыли пароль?
Журнал "Системный администратор"
Журнал «БИТ»
Подписка
Архив номеров
Где купить
Наука и технологии
Авторам
Рекламодателям
Контакты
   

  Опросы
1001 и 1 книга  
19.03.2018г.
Просмотров: 6828
Комментарии: 0
Машинное обучение с использованием библиотеки Н2О

 Читать далее...

12.03.2018г.
Просмотров: 7360
Комментарии: 0
Особенности киберпреступлений в России: инструменты нападения и защита информации

 Читать далее...

12.03.2018г.
Просмотров: 4611
Комментарии: 0
Глубокое обучение с точки зрения практика

 Читать далее...

12.03.2018г.
Просмотров: 3159
Комментарии: 0
Изучаем pandas

 Читать далее...

12.03.2018г.
Просмотров: 3965
Комментарии: 0
Программирование на языке Rust (Цветное издание)

 Читать далее...

19.12.2017г.
Просмотров: 3967
Комментарии: 0
Глубокое обучение

 Читать далее...

19.12.2017г.
Просмотров: 6470
Комментарии: 0
Анализ социальных медиа на Python

 Читать далее...

19.12.2017г.
Просмотров: 3312
Комментарии: 0
Основы блокчейна

 Читать далее...

19.12.2017г.
Просмотров: 3591
Комментарии: 0
Java 9. Полный обзор нововведений

 Читать далее...

16.02.2017г.
Просмотров: 7450
Комментарии: 0
Опоздавших не бывает, или книга о стеке

 Читать далее...

17.05.2016г.
Просмотров: 10814
Комментарии: 0
Теория вычислений для программистов

 Читать далее...

30.03.2015г.
Просмотров: 12526
Комментарии: 0
От математики к обобщенному программированию

 Читать далее...

18.02.2014г.
Просмотров: 14231
Комментарии: 0
Рецензия на книгу «Читаем Тьюринга»

 Читать далее...

13.02.2014г.
Просмотров: 9263
Комментарии: 0
Читайте, размышляйте, действуйте

 Читать далее...

12.02.2014г.
Просмотров: 7210
Комментарии: 0
Рисуем наши мысли

 Читать далее...

10.02.2014г.
Просмотров: 5518
Комментарии: 3
Страна в цифрах

 Читать далее...

18.12.2013г.
Просмотров: 4749
Комментарии: 0
Большие данные меняют нашу жизнь

 Читать далее...

18.12.2013г.
Просмотров: 3567
Комментарии: 0
Компьютерные технологии – корень зла для точки роста

 Читать далее...

04.12.2013г.
Просмотров: 3276
Комментарии: 0
Паутина в облаках

 Читать далее...

03.12.2013г.
Просмотров: 3508
Комментарии: 1
Рецензия на книгу «MongoDB в действии»

 Читать далее...

02.12.2013г.
Просмотров: 3161
Комментарии: 0
Не думай о минутах свысока

 Читать далее...

Друзья сайта  

 SQL, noSQL, немного ВКонтакте

Архив номеров / 2011 / Выпуск №11 (108) / SQL, noSQL, немного ВКонтакте

Рубрика: Информбюро /  События

Евгений Зиндер ЕВГЕНИЙ ЗИНДЕР, веб-программист. Прошел путь от верстальщика до системного архитектора высоконагруженных систем. Специализация – биллинги, системы финансового учета

SQL, noSQL, немного ВКонтакте

3-4 октября в Москве состоялась V конференция разработчиков высоконагруженных систем HighLoad++

Первый день работы конференции начался с рассказа о сервере очередей RabbitMQ. Он несильно отличался от канонического readme на сайте проекта, но венцом доклада стал очень красивый с архитектурной точки зрения use case для распределенной системы сбора логов.

Следующий доклад – «Improving web performance at scale» – поведал о том, что долгое ожидание для пользователя есть зло. По данным докладчика, пользователь в среднем рассчитывает на двухсекундную загрузку страницы. Пожалуй, на мой взгляд, самым полезным в докладе было упоминание библиотеки boomerang.js для мониторинга скорости загрузки страницы в реальных условиях на клиентской части.

В другом зале рассказывали про то, как социальная сеть Badoo рассылает по 50 (в пике – 70) миллионов писем в день. Краткие тезисы – кластер из 10 машин: 2 на прием, 8 на отправку, среднее время доставки – 25 секунд, 97% попаданий в Inbox. Отправка асинхронная, письма хранятся в файловой структуре, MTA – CommunigatePro для основной массы отправок и Postfix для проблемных серверов. Интересующимся данной темой советую просмотреть видео доклада.

Также участники конференции услышали немало советов о масштабировании MySQL от разработчиков Facebook. В слайдах доклада эти тезисы вполне понятно расписаны. Несмотря на очевидную полезность доклада, зал ярче всего отреагировал на фразу «Facebook – это как ВКонтакте, только мирные».

В докладе по теме SQL шла речь о построении крупномасштабных приложений для сбора данных на примере системы сбора статистики с ветряных генераторов (примерный масштаб – до 1000 фактов/с, около 1 Гб новых данных в час) и на приемнике баг-репортов об аварийном завершении браузера Firefox (3000/мин, около 40 Тб данных за весь период сбора). Системы хранения – HBase и PostgreSQL, архитектура системы разобрана достаточно подробно.

Первый из докладов о системном администрировании был построен в непривычном для конференции формате холивара – двое докладчиков рассказывали о том, как они решали одну и ту же проблему. В ее роли выступала задача фильтрации трафика для защиты клиентов от DDoS. Товарищеский матч шел на следующих уровнях:

  • защита сети vs защита сетевых приложений;
  • собственные разработки vs решения от вендоров;
  • распределенная сеть vs сеть оператора связи;
  • специализация vs интеграция.

Второй день конференции начался с блока докладов по SQL/noSQL-решениям.

Сначала рассказывали о Tarantool – высокопроизводительном key/value storage. Любителям высоких нагрузок рекомендуется для ознакомления. Следующим докладом стал рассказ-инструкция о Redis, его шардинге и, самое главное, о том, что делать, когда изначально созданное количество шардов меньше, чем нужно, и их количество нужно менять на лету. В процессе используется дополнительное ПО, интересующимся вопросом – слайды для просмотра обязательны.

Далее следовал доклад о Apache Cassandra – еще одно noSQL-хранилище, успешно сочетающее в себе преимущества Big Table от Google и Dynamo от Amazon. БД децентрализована, гибка в настройке и масштабировании, но не лишена и некоторых недостатков. Каких, и как с ними бороться – смотрите в соответствующих слайдах.

Одним из самых интересных выступлений дня стал доклад Олега Илларионова, работающего в ВКонтакте. Он  рассказывал о том, как удалось добиться плавной и быстрой загрузки страниц на не самом простом и малопосещаемом сайте в Рунете. Обычная загрузка страниц – долго и некрасиво, загрузка через AJAX – медленно и не всегда корректно обрабатывается нажатие кнопок «Вперед»/«Назад» в браузере. В итоге, как бы странно это ни звучало, используется iframe. Слайды для просмотра строго рекомендуются любому веб-разработчику, но лучше найти видео.

Спасибо организатору «Онтико» за конференцию. Еще раз рекомендую всем интересующимся тематикой пересмотреть слайды, а если удастся, и видео.

Со всеми слайдами конференции можно ознакомиться на http://www.highload.ru/2011/abstracts.


Комментарии отсутствуют

Добавить комментарий

Комментарии могут оставлять только зарегистрированные пользователи

               Copyright © Системный администратор

Яндекс.Метрика
Tel.: (499) 277-12-45
E-mail: sa@samag.ru