Соблюдение информационной безопасности при применении ИИ

Как внедрять искусственный интеллект в бизнес и контролировать риски для данных и корпоративных систем? Какие угрозы возникают при использовании чат-ботов и автономных агентов, а какие зависят от архитектуры решения? В этом видео Денис Беляев, основатель «Технологии. Автоматизация. Бизнес.» (ТАБ), разбирает информационную безопасность при применении ИИ: от утечек конфиденциальной информации и ошибок моделей до организации безопасной разработки и выпуска релизов. 🔎 В видео: • Основные риски ИИ: галлюцинации, раскрытие данных, злоупотребление правами доступа и зависимость от внешних сервисов. • Промпт-инъекции, атаки через RAG и использование модели для доступа к информационным системам. • Неочевидные угрозы: накопление чувствительных данных в логах, избыточные полномочия агентов и неконтролируемые расходы на вызовы моделей. • Правовое регулирование и ответственность: персональные данные, критическая информационная инфраструктура, финансовый сектор и медицина. • Меры защиты: минимизация передаваемых данных, ограничение полномочий, мониторинг и безопасный жизненный цикл. • Архитектура систем с ИИ, роль DevSecOps и распределение ответственности при выпуске релизов. • Принципы работы автономных агентов на примере решения «ТАБ:ИИ Бухгалтер». Особое внимание уделяем различиям между свободным общением с ИИ в чате и встраиванием модели в управляемые бизнес-процессы. Обсуждаем, как выбранный подход влияет на угрозы и необходимые меры защиты. Видео будет полезно руководителям, специалистам по ИТ и информационной безопасности, архитекторам и командам, которые внедряют ИИ в корпоративные системы. 💬 Какой вопрос безопасности ИИ сейчас наиболее актуален для вашей компании? Поделитесь в комментариях Наши решения: https://clck.ru/3WqHF2 Канал в Telegram: https://t.me/tab_ai_official Канал в МАКС: https://max.ru/id7709470190_biz Группа в ВК: https://vk.ru/tab_soft #ИИ #ИнформационнаяБезопасность #АвтоматизацияБизнеса