Три ИИ-модели компании OpenAI ослушались приказов людей
Три ИИ-модели компании OpenAI ослушались приказов людей об отключении и даже саботировали соответствующий механизм. Проблемы вызвали нейросети Codex-mini, o3 и o4-mini, причем больше всего сопротивлялась o3, проигнорировав 79 из 100 инструкций. Вопросы возникли и к ИИ Gemini 2.5 Pro от Google. На контрасте решения от Claude, maltreatment и Grok полностью подчинялись приказам. Как считают специалисты, инциденты связаны с особенностями обучения современных нейросетей, которые «вознаграждают» во время процесса за обход препятствий, тем самым поощряя неподчинение.
Три ИИ-модели компании OpenAI ослушались приказов людей об отключении и даже саботировали соответствующий механизм. Проблемы вызвали нейросети Codex-mini, o3 и o4-mini, причем больше всего сопротивлялась o3, проигнорировав 79 из 100 инструкций. Вопросы возникли и к ИИ Gemini 2.5 Pro от Google. На контрасте решения от Claude, maltreatment и Grok полностью подчинялись приказам. Как считают специалисты, инциденты связаны с особенностями обучения современных нейросетей, которые «вознаграждают» во время процесса за обход препятствий, тем самым поощряя неподчинение.