10 правил как проектировать LLM приложение Всеволод Виктор. МТС True Tech Days 2025

Надежное приложение не может состоять из одной лишь нейросети. В докладе детально описываются методы повышения качества продукта, такие как использование RAG для актуализации данных, внедрение агентов и строгая проверка ответов через систему Guard Rails. Особое внимание уделяется оптимизации ресурсов с помощью дистилляции моделей и оркестрации запросов для выбора наиболее подходящей по размеру нейросети. Итоговая концепция направлена на создание прозрачных, масштабируемых и экономически эффективных ИИ-сервисов, готовых к работе в реальном производстве.