26 гейтов недоверия: как мы отдали прод AI-агенту

30 ноября, 11:10, «Конгресс холл»

Низкая сложность

Доклад принят в программу конференции

Расширение кругозора

API

PostgreSQL

Расширение кругозора

API

PostgreSQL

Мнение Программного комитета о докладе

Спикер из Сбера расскажет о том, как с помощью агентов за несколько месяцев была написана платформа Data Governance на 190 тысяч строк (Scala/Spark/Postgres/React), которой пользуются сотрудники компании. История о том, как построить вокруг harness, верифицировать код и сделать продакшн-решение.

Целевая аудитория

Тимлиды, архитекторы и синьоры, которые строят верификацию AI-агентов под релиз: как устроены контрактные рельсы и гейты, до какой глубины реально доходит агент и где он ошибается. Дата-инженерам и DBA: полезен фрагмент про planner-level обход графа lineage в PostgreSQL как proof-of-depth.

Тезисы

Несколько лет назад мы уже брались за data lineage: четыре инженера, два года работы, а в прод уехала только урезанная версия. Проект увяз в графовом поиске по Postgres и в горе бизнесового и технического долга — дальше не поехал.

Второй заход сделали с ИИ и за три месяца собрали сервис в разы крупнее, который сейчас работает в проде. Причём руками кода почти не писали: почти все силы ушли не на код, а на то, чтобы агентам вообще можно было доверить продакшн.

Основная идея - как не дать AI по-тихому сломать проект. Расскажу про нашу систему недоверия к агенту: 26 автоматических проверок и инвариантов, которые ловят его раньше, чем код доедет до прода. На живых примерах покажу, где агент ошибался и что его останавливало — включая запрос к графу на миллионы связей, который он сначала написал неправильно.

Спикеры

Волков Денис

Сбер

От стажёра до исполнительного директора в Сбере за пять лет. Строю инфраструктуру данных для антифрода: потоки в реальном времени, governance и ML-инфраструктуру. Параллельно пишу кандидатскую по большим данным. Играю в волейбол.