Высокопроизводительный промышленный сервис для компьютерного зрения на Python
25 ноября, 10:00, «h4»
Мнение Программного комитета о докладе
Компьютерное зрение все чаще используется в продуктах. Это доклад о тонкостях нагруженных сервисов с компьютерным зрением простым языком.
Целевая аудитория
Разработчики в сфере компьютерного зрения, любые DS- и ML-специалисты, исследователи, интересующиеся применением компьютерного зрения в промышленных системах/
Тезисы
Хорошо известны проблемы применения Python в промышленных сервисах, особенно, если подразумевается высокая нагрузка и определены высокие требования к задержке. Ещё сложнее всё обстоит в задачах компьютерного зрения, где добавляется специфическая работа с GPU, огромные объемы входных данных и тяжёлые алгоритмы, такие как кодирование/декодирование изображений, их обработка или инференс нейросетей.
Мы расскажем о том, как мы решали такие проблемы, почему выбрали самописное решение и как удалось добиться хороших результатов.
- Основные проблемы в Python с точки зрения промышленного сервиса с компьютерным зрением.
- Обзор существующих решений: DALI & Triton, Cython, Julia, С++, Numba, etc.
- Батчинг.
- Разрешение критических боттлнеков в проде и случайное ускорение тренировок.
- Результаты.
Спикеры
SberDevices
