«Не навреди»: границы безопасности ИИ
Законопроект об ИИ вводит понятие «доверенный ИИ». Для здравоохранения, которое имеет дело с жизнями и здоровьем людей, это главный ориентир. Для обеспечения доверия существуют специальные регистрационные процедуры, которые гарантируют, что в руки врачей попадут технологии с пользой от их применения и минимально возможными рисками для пациентов. В России это задача Росздравнадзора. Однако у этой новой технологии есть две особенности. С одной стороны, по своей природе она изменчива и требует постоянного мониторинга на местах, с другой — в лице генеративных моделей и многочисленных ИИ-агентов она уже «гуляет» по рынку без всяких на то разрешений. Этими моделями люди пользуются для постановки диагнозов, самолечения, что зачастую (до 30% случаев) неверно и даже опасно (до 10% случаев). Особенно это касается молодежи, которая консультируется с чат-ботами ИИ по вопросам психического здоровья, и в мире уже есть случаи индуцированных ими психозов и суицидов. Не надо забывать, что алгоритмы — это всегда чьи-то мнения и ценности, заложенные в коде, соответственно, не существует нейтрального ИИ. Одновременно делегирование ИИ-задач, которые раньше мы исполняли самостоятельно, приводит к изменению основ критического мышления. В этой связи вопрос, как при таком количестве проблем соблюсти баланс между прессингом разработчиков, которым необходимо возвращать свои инвестиции, и прогрессом, стоит очень остро. Задача сессии — обсудить пути обеспечения безопасности ИИ-технологий, внедряемых в здравоохранение. Достаточно ли мощностей у Росздравнадзора для обеспечения своевременной регистрации и мониторинга ИИ-моделей? Как быть с генеративными моделями, которыми население да и медицинские работники пользуются в медицинских целях бесконтрольно? Как достичь баланса между инновационным развитием и безопасностью ИИ-решений в здравоохранении: пойти по пути либерализации регистрационного законодательства, как в США, или сохранять жесткие требования, как в ЕС? Как уберечь психическое здоровье людей при использовании ИИ? Изменит ли ИИ клиническое мышление медицинских работников? Как уберечь пользователей от уязвимостей неидеально сделанных ИИ-агентов, которыми могут легко воспользоваться мошенники? Модератор Власов Ян Владимирович, сопредседатель Всероссийского союза общественных объединений пациентов, член Совета по развитию гражданского общества и правам человека при Президенте РФ, д.м.н. Выступающие Иванов Игорь Владимирович, генеральный директор ФГБУ «Всероссийский научно-исследовательский и испытательный институт медицинской техники» Росздравнадзора, д.м.н. Нестик Тимофей Александрович, заведующий лабораторией социальной и экономической психологии Института психологии РАН, д.п.н., к.ф.н., профессор РАН, член Международной ассоциации прикладной психологии (IAAP), Международной ассоциации фасилитаторов (IAF) Шпорт Светлана Вячеславовна, генеральный директор ФГБУ «Национальный медицинский исследовательский центр психиатрии и наркологии им. В.П. Сербского», главный внештатный специалист психиатр и главный внештатный специалист психиатр-нарколог Минздрава России, д.м.н. Тимофеев Глеб Александрович, руководитель комитета Официальный сайт конгресса "Оргздрав-2026"
Законопроект об ИИ вводит понятие «доверенный ИИ». Для здравоохранения, которое имеет дело с жизнями и здоровьем людей, это главный ориентир. Для обеспечения доверия существуют специальные регистрационные процедуры, которые гарантируют, что в руки врачей попадут технологии с пользой от их применения и минимально возможными рисками для пациентов. В России это задача Росздравнадзора. Однако у этой новой технологии есть две особенности. С одной стороны, по своей природе она изменчива и требует постоянного мониторинга на местах, с другой — в лице генеративных моделей и многочисленных ИИ-агентов она уже «гуляет» по рынку без всяких на то разрешений. Этими моделями люди пользуются для постановки диагнозов, самолечения, что зачастую (до 30% случаев) неверно и даже опасно (до 10% случаев). Особенно это касается молодежи, которая консультируется с чат-ботами ИИ по вопросам психического здоровья, и в мире уже есть случаи индуцированных ими психозов и суицидов. Не надо забывать, что алгоритмы — это всегда чьи-то мнения и ценности, заложенные в коде, соответственно, не существует нейтрального ИИ. Одновременно делегирование ИИ-задач, которые раньше мы исполняли самостоятельно, приводит к изменению основ критического мышления. В этой связи вопрос, как при таком количестве проблем соблюсти баланс между прессингом разработчиков, которым необходимо возвращать свои инвестиции, и прогрессом, стоит очень остро. Задача сессии — обсудить пути обеспечения безопасности ИИ-технологий, внедряемых в здравоохранение. Достаточно ли мощностей у Росздравнадзора для обеспечения своевременной регистрации и мониторинга ИИ-моделей? Как быть с генеративными моделями, которыми население да и медицинские работники пользуются в медицинских целях бесконтрольно? Как достичь баланса между инновационным развитием и безопасностью ИИ-решений в здравоохранении: пойти по пути либерализации регистрационного законодательства, как в США, или сохранять жесткие требования, как в ЕС? Как уберечь психическое здоровье людей при использовании ИИ? Изменит ли ИИ клиническое мышление медицинских работников? Как уберечь пользователей от уязвимостей неидеально сделанных ИИ-агентов, которыми могут легко воспользоваться мошенники? Модератор Власов Ян Владимирович, сопредседатель Всероссийского союза общественных объединений пациентов, член Совета по развитию гражданского общества и правам человека при Президенте РФ, д.м.н. Выступающие Иванов Игорь Владимирович, генеральный директор ФГБУ «Всероссийский научно-исследовательский и испытательный институт медицинской техники» Росздравнадзора, д.м.н. Нестик Тимофей Александрович, заведующий лабораторией социальной и экономической психологии Института психологии РАН, д.п.н., к.ф.н., профессор РАН, член Международной ассоциации прикладной психологии (IAAP), Международной ассоциации фасилитаторов (IAF) Шпорт Светлана Вячеславовна, генеральный директор ФГБУ «Национальный медицинский исследовательский центр психиатрии и наркологии им. В.П. Сербского», главный внештатный специалист психиатр и главный внештатный специалист психиатр-нарколог Минздрава России, д.м.н. Тимофеев Глеб Александрович, руководитель комитета Официальный сайт конгресса "Оргздрав-2026"