Использование Cassandra в системах сбора и анализа данных::Журнал СА 01-02.2016
www.samag.ru
     
Поиск   
              
 www.samag.ru    Web  0 товаров , сумма 0 руб.
E-mail
Пароль  
 Запомнить меня
Регистрация | Забыли пароль?
Журнал "Системный администратор"
Журнал «БИТ»
Подписка
Архив номеров
Где купить
Наука и технологии
Авторам
Рекламодателям
Контакты
   

  Опросы
  Статьи

Событие  

В банке рассола ждет сисадмина с полей фрактал-кукумбер

Читайте впечатления о слете ДСА 2024, рассказанные волонтером и участником слета

 Читать далее...

Организация бесперебойной работы  

Бесперебойная работа ИТ-инфраструктуры в режиме 24/7 Как обеспечить ее в нынешних условиях?

Год назад ИТ-компания «Крок» провела исследование «Ключевые тренды сервисного рынка 2023». Результаты

 Читать далее...

Книжная полка  

Читайте и познавайте мир технологий!

Издательство «БХВ» продолжает радовать выпуском интересных и полезных, к тому же прекрасно

 Читать далее...

СУБД PostgreSQL  

СУБД Postgres Pro

Сертификация по новым требованиям ФСТЭК и роль администратора без доступа к данным

 Читать далее...

Критическая инфраструктура  

КИИ для оператора связи. Готовы ли компании к повышению уровня кибербезопасности?

Похоже, что провайдеры и операторы связи начали забывать о требованиях законодательства

 Читать далее...

Архитектура ПО  

Архитектурные метрики. Качество архитектуры и способность системы к эволюционированию

Обычно соответствие программного продукта требованиям мы проверяем через скоуп вполне себе понятных

 Читать далее...

Как хорошо вы это знаете  

Что вам известно о разработках компании ARinteg?

Компания ARinteg (ООО «АРинтег») – системный интегратор на российском рынке ИБ –

 Читать далее...

Графические редакторы  

Рисование абстрактных гор в стиле Paper Cut

Векторный графический редактор Inkscape – яркий представитель той прослойки open source, с

 Читать далее...

День сисадмина  

Учите матчасть! Или как стать системным администратором

Лето – время не только отпусков, но и хорошая возможность определиться с профессией

 Читать далее...

День сисадмина  

Живой айтишник – это всегда движение. Остановка смерти подобна

Наши авторы рассказывают о своем опыте и дают советы начинающим системным администраторам.

 Читать далее...

Виртуализация  

Рынок решений для виртуализации

По данным «Обзора российского рынка инфраструктурного ПО и перспектив его развития», сделанного

 Читать далее...

Книжная полка  

Как стать креативным и востребованным

Издательский дом «Питер» предлагает новинки компьютерной литературы, а также книги по бизнесу

 Читать далее...

Книжная полка  

От создания сайтов до разработки и реализации API

В издательстве «БХВ» недавно вышли книги, которые будут интересны системным администраторам, создателям

 Читать далее...

Разбор полетов  

Ошибок опыт трудный

Как часто мы легко повторяем, что не надо бояться совершать ошибки, мол,

 Читать далее...

1001 и 1 книга  
19.03.2018г.
Просмотров: 6188
Комментарии: 0
Машинное обучение с использованием библиотеки Н2О

 Читать далее...

12.03.2018г.
Просмотров: 6898
Комментарии: 0
Особенности киберпреступлений в России: инструменты нападения и защита информации

 Читать далее...

12.03.2018г.
Просмотров: 4181
Комментарии: 0
Глубокое обучение с точки зрения практика

 Читать далее...

12.03.2018г.
Просмотров: 2986
Комментарии: 0
Изучаем pandas

 Читать далее...

12.03.2018г.
Просмотров: 3791
Комментарии: 0
Программирование на языке Rust (Цветное издание)

 Читать далее...

19.12.2017г.
Просмотров: 3802
Комментарии: 0
Глубокое обучение

 Читать далее...

19.12.2017г.
Просмотров: 6296
Комментарии: 0
Анализ социальных медиа на Python

 Читать далее...

19.12.2017г.
Просмотров: 3150
Комментарии: 0
Основы блокчейна

 Читать далее...

19.12.2017г.
Просмотров: 3445
Комментарии: 0
Java 9. Полный обзор нововведений

 Читать далее...

16.02.2017г.
Просмотров: 7261
Комментарии: 0
Опоздавших не бывает, или книга о стеке

 Читать далее...

17.05.2016г.
Просмотров: 10627
Комментарии: 0
Теория вычислений для программистов

 Читать далее...

30.03.2015г.
Просмотров: 12348
Комментарии: 0
От математики к обобщенному программированию

 Читать далее...

18.02.2014г.
Просмотров: 13979
Комментарии: 0
Рецензия на книгу «Читаем Тьюринга»

 Читать далее...

13.02.2014г.
Просмотров: 9109
Комментарии: 0
Читайте, размышляйте, действуйте

 Читать далее...

12.02.2014г.
Просмотров: 7063
Комментарии: 0
Рисуем наши мысли

 Читать далее...

10.02.2014г.
Просмотров: 5373
Комментарии: 3
Страна в цифрах

 Читать далее...

18.12.2013г.
Просмотров: 4603
Комментарии: 0
Большие данные меняют нашу жизнь

 Читать далее...

18.12.2013г.
Просмотров: 3412
Комментарии: 0
Компьютерные технологии – корень зла для точки роста

 Читать далее...

04.12.2013г.
Просмотров: 3142
Комментарии: 0
Паутина в облаках

 Читать далее...

03.12.2013г.
Просмотров: 3388
Комментарии: 0
Рецензия на книгу «MongoDB в действии»

 Читать далее...

02.12.2013г.
Просмотров: 3010
Комментарии: 0
Не думай о минутах свысока

 Читать далее...

Друзья сайта  

 Использование Cassandra в системах сбора и анализа данных

Архив номеров / 2016 / Выпуск №01-02 (158-159) / Использование Cassandra в системах сбора и анализа данных

Рубрика: Базы данных /  Особенности продукта

Александр Календарев АЛЕКСАНДР КАЛЕНДАРЕВ, РБК Медиа, программист, akalend@mail.ru

Использование Cassandra
в системах сбора и анализа данных

В статье рассмотрены плюсы и минусы NoSQL Cassandra на примере использования в системах сбора и анализа данных

Введение в Cassandra

Частой задачей многих специализированных веб-проектов является сбор данных для последующего их анализа. При большом потоке входных данных их сохранение втрадиционных RMDB может стать проблемой. В таких случаях лучше использовать нереляционные БД, которые называют NoSQL (т.е. не SQL БД). Одной из таких NoSQL-систем хранения и является Cassandra.

Cassandra (далее по тексту С*) относится к семейству поколоночных (ColumnFamily) NoSQL-хранилищ данных [1]. Основным свойством данного типа баз данных является быстрая вставка данных. Поэтому рационально их использовать в системах сбора и логирования информации для ее дальнейшего анализа. Второй важной особенностью C* является то, чтоэто кластерное решение, и разработчику не нужно задумываться о масштабировании, все «работает из коробки». По этим двум причинам и рационально ее использовать в системах сбольшим потоком входных данных: баннерные, рекламные или партнерские сети, счетчики интернет-статистики, разного рода телеметрические системы.

Данные в C* хранятся в виде колонок, которые представляются как ключ, значение и время сохранения (timestamp). Сохранность данных осуществляется их дублированием наразные узлы кластера. При настройке кластера нам необходимо задать коэффициент дублирования, еще его называют уровнем репликации.

По умолчанию значение уровня репликации равно трем. Это значит, что одни и те же данные будут храниться на трех разных узлах кластера, и при выходе из строя одного из узлов данные будут взяты с другого узла. C* – это надежное хранилище данных.

В соответствии с теоремой CAP [2] в кластерных распределенных системах одновременно невозможно иметь согласованные и не противоречивые данные. Поэтому при настройке кластера выбираются разные уровни согласованности:

  • QUORUM – данные отдаются на клиент, когда поступят от узлов, в соответствии со значением уровня репликации отдаются самые последние данные, осуществляется сравнение по timestamp.
  • LOCAL_QUORUM – аналог QUORUM, но в пределах кластера.
  • ALL – данные отдаются на клиент, когда поступят от всех узлов, обеспечивается наивысший уровень согласованности, отдаются самые последние данные.
  • ANY – данные отдаются на клиент, когда поступят от любого узла, но все узлы кластера должны быть доступны. Это низкий уровень согласованности.
  • ONE – данные отдаются на клиент, когда поступят от первого отозвавшегося узла.
  • TWO – данные отдаются на клиент, когда поступят от двух отозвавшихся узлов, отдаются самые последние данные, сравнение по timestamp.
  • THREE – аналог TWO, но применительно к трем узлам.

При использовании разных уровней согласованности осуществляется разная скорость отдачи. Самая быстрая – при установке значения уровня согласованности в ONE и самая медленная – при установке в ALL.

Еще одной важной особенностью С* является возможность связи географически разнесенных кластеров, т.е. мы можем связать несколько кластеров, находящихся в разных дата-центрах.

Итак, C* – это высоконадежное, хорошо масштабируемое, распределенное хранилище данных с архитектурой взаимодействия узлов peer-to-peer (каждый с каждым). Оно хорошо подходит для систем сбора информации, так как вставка в традиционные РСУБД, основанные на b-tree, происходит относительно медленно, особенно на больших объемах информации.

Статью целиком читайте в журнале «Системный администратор», №01-02 за 2016 г. на страницах 76-81.

PDF-версию данного номера можно приобрести в нашем магазине.


  1. Календарев А. NoSQL как он есть. // «Системный администратор», №11, 2013 г. – С. 51-55 (http://samag.ru/archive/article/2567).
  2. Календарев А. CAP-дилеммa. Быстро, качественно или дешево? // «Системный администратор», №12, 2013 г. – С. 44-45 (http://samag.ru/archive/article/2589).
  3. Силаков Д. Проект Docker. Управляем виртуальными окружениями. // «Системный администратор», №3, 2015 г. – С. 10-14 (http://samag.ru/archive/article/2887).
  4. Календарев А. Новое в Tarantool. // «Системный администратор», №1-2, 2015 г. – С. 67-71 (http://samag.ru/archive/article/2868).
  5. Календарев А. Кролик в песочнице. // «Системный администратор», №11, 2015 г. – С. 60-65 (http://samag.ru/archive/article/3074).
  6. Сайт проекта Сassandra – http://cassandra.apache.org.
  7. Официальная документация – http://docs.datastax.com/en/cassandra/3.0/cassandra/cassandraAbout.html.
  8. PHP-драйвер для начинающих – https://academy.datastax.com/demos/getting-started-apache-cassandra-and-php.

Комментарии отсутствуют

Добавить комментарий

Комментарии могут оставлять только зарегистрированные пользователи

               Copyright © Системный администратор

Яндекс.Метрика
Tel.: (499) 277-12-45
E-mail: sa@samag.ru