СберТех: создание экосистемы ИИ-агентов - от инфраструктуры к эффективности, Сергей Бубнов

Сергей Бубнов, старший технический эксперт по платформе данных "Сбертех". "Искусственный интеллект и большие данные: от экспериментов к эффекту", конференция TAdviser. Сбертех - платформа E-Hub — специализированная экосистема для автоматизации разработки и управления технологическими продуктами. Решение направлено на радикальное повышение производительности сотен разработчиков за счет внедрения интеллектуальных агентов, способных брать на себя рутинные операции по написанию кода и контролю качества в условиях жестких требований банковской безопасности. РОЛЬ СБЕРТЕХА И НЕОБХОДИМОСТЬ АВТОМАТИЗАЦИИ Компания СберТех выступает в качестве технологического ядра для создания фундаментальных экспертиз, на базе которых строятся конечные системы Сбера. Весь массив из примерно 90 различных технологических продуктов объединен общим названием PlatformV. Учитывая масштаб организации и огромное количество высококвалифицированных разработчиков, архитекторов и аналитиков в штате, даже минимальный прирост эффективности каждого сотрудника дает колоссальный суммарный эффект для всего бизнеса. Главным драйвером создания платформы E-Hub стало желание ускорить циклы разработки и минимизировать рутинные операции. Поскольку около 90% систем банка базируются на внутренней инфраструктуре, использование внешних западных инструментов от Oracle или Microsoft было невозможно из-за требований безопасности. Это привело к созданию собственного репозитория из нескольких сотен узкоспециализированных ИИ-агентов, адаптированных под конкретные технологические стеки компании. Внедрение E-Hub позволяет командам переложить проверку ошибок и генерацию шаблонного кода на интеллектуальные системы. Это создает синергию между человеческим опытом в области архитектуры и бизнес-логики и скоростью машинной обработки данных, что в итоге существенно сокращает время вывода продуктов на рынок. АРХИТЕКТУРА E-HUB: АССИСТЕНТЫ И АВТОНОМНЫЕ АГЕНТЫ Внутри платформы СберТех разделяет понятия ИИ-ассистентов и автономных агентов. Ассистент работает в пассивном режиме, выполняя роль продвинутого справочника: он ищет информацию в базе знаний по прямому запросу пользователя. В этом сценарии человек полностью контролирует процесс и самостоятельно решает, как применить полученный ответ в работе. Агент представляет собой более сложную форму ИИ, способную действовать активно. Он может самостоятельно инициировать бизнес-процессы, взаимодействовать с внешними системами и доводить задачу до логического завершения без постоянного надзора. Такое разделение позволяет гибко подходить к автоматизации: ассистенты интегрируются в интерфейсы для помощи пользователям, а агенты используются для глубокой оптимизации внутренних производственных процессов. Технически архитектура базируется на многослойном подходе. В основании находятся инференс-серверы с базовыми моделями, над ними расположен слой безопасности с mesh-шлюзами и алгоритмами обфускации данных. Верхний уровень представлен low-code конструктором, который позволяет бизнес-пользователям быстро создавать прототипы агентов, настраивать их триггеры и калибровать ответы в специальной среде Playground. ТЕХНОЛОГИЧЕСКИЙ СТЕК И ОПТИМИЗАЦИЯ КОНТЕКСТА Для повышения точности ответов и снижения затрат на вычислительные ресурсы в E-Hub применяется технология RAG (Retrieval-Augmented Generation). Вместо того чтобы передавать в модель огромные массивы данных, система извлекает из векторной базы только релевантные фрагменты знаний. Это значительно сокращает окно контекста и ускоряет время отклика при высоких транзакционных нагрузках. СберТех использует гибридный подход к хранению данных: сочетание векторных БД для семантического поиска с аналитическими системами типа Lakehouse, Hadoop и S3. Это позволяет агентам эффективно работать как с неструктурированным текстом, так и с огромными массивами структурированной табличной информации, обеспечивая полноту и достоверность ответов. Особое внимание уделено контролю качества через механизмы Guardrails и Observability. Guardrails работают как предохранители, блокируя некорректные или опасные ответы в реальном времени. Инструменты Observability собирают детальную статистику по логам, позволяя отслеживать дрифт модели (снижение качества ответов со временем) и оптимизировать расход токенов.