Потоковая обработка данных: разбираем архитектуры и предлагаем реализации

Низкая сложность
Доклад принят в программу конференции

Целевая аудитория

--

Тезисы

Наши команды создают инфру для потоковой обработки данных и с помощью этих систем решают продуктовые задачи в Яндексе. Поток, с которым они работают — гигабайты в секунду, размер стейта — петабайты данных.

Наши эксперты расскажут: * почему стриминг-подготовка данных — ключевое направление развития процессинга в ближайшие годы; * чем может помочь стриминг-парадигма; * как перейти в парадигму стриминга из MapReduce; * как спроектировать архитектуру стриминга.

Спикеры

Егор Хайруллин
Руководитель отдела инфраструктуры рекомендательных систем. Занимается потоковой обработкой данных и построением удобной ML-инфраструктуры для ресечеров. Закончил МФТИ. В Яндексе с 2013 года. Выпускник и преподаватель ШАД-а, семинарист на курсе «Алгоритмы и структуры данных».

Другие доклады секции

Sec и Ops под нагрузкой. Делаем, чтобы работало
Юрий Семенюков
Юрий Семенюков

Инфосистемы Джет

Иван Колесников
Иван Колесников

Инфосистемы Джет

Антон Гаврилов
Антон Гаврилов

Инфосистемы Джет

Павел Яньков
Павел Яньков

Инфосистемы Джет

Евгений Анненков
Евгений Анненков

Инфосистемы Джет