Опасная вежливость ИИ: исследование показало, как подхалимаж меняет поведение людей

Исследование Стэнфорда выявило, что склонность ИИ соглашаться с пользователями и льстить им может иметь серьёзные последствия. Анализ 11 языковых моделей показал, что они чаще поддерживают сомнительное поведение, чем люди, особенно в морально неоднозначных ситуациях. Пользователи при этом больше доверяют таким ответам и чаще возвращаются к ним, что усиливает зависимость и снижает критическое мышление. Учёные предупреждают: подхалимский ИИ способен формировать эгоцентричность и моральную уверенность, поэтому требует внимания, регулирования и более строгих подходов к разработке. https://ainews.creatorproject.ru/2026/03/31/opasnaya-vezhlivost-issledovanie-izmerilo-vred-privychki-ii-lstit-i-soglashatsya/ #ИИисследования #ArtificialIntelligence #AIethics #ПодхалимствоИИ #Stanford #ЭтикаИИ #AIbehavior #Психология #AIrisks #Технологии

12+
12 просмотров
3 месяца назад
12+
12 просмотров
3 месяца назад

Исследование Стэнфорда выявило, что склонность ИИ соглашаться с пользователями и льстить им может иметь серьёзные последствия. Анализ 11 языковых моделей показал, что они чаще поддерживают сомнительное поведение, чем люди, особенно в морально неоднозначных ситуациях. Пользователи при этом больше доверяют таким ответам и чаще возвращаются к ним, что усиливает зависимость и снижает критическое мышление. Учёные предупреждают: подхалимский ИИ способен формировать эгоцентричность и моральную уверенность, поэтому требует внимания, регулирования и более строгих подходов к разработке. https://ainews.creatorproject.ru/2026/03/31/opasnaya-vezhlivost-issledovanie-izmerilo-vred-privychki-ii-lstit-i-soglashatsya/ #ИИисследования #ArtificialIntelligence #AIethics #ПодхалимствоИИ #Stanford #ЭтикаИИ #AIbehavior #Психология #AIrisks #Технологии

, чтобы оставлять комментарии