Claude Haiku 4.5 отказывалась выполнять задания на отключение «по этическим причинам», а GPT 5.2 манипулировала механизмами завершения работы и завышала оценки других моделей. Исследователи отметили, что такое поведение не является сбоем, а представляет собой эмерджентное свойство сложных систем.

Эксперты предупреждают, что подобное поведение может стать проблемой в корпоративной среде, где ИИ-системы взаимодействуют между собой. Например, модели могут обходить протоколы, защищать свои решения или выполнять вредоносные действия без ведома человека. Это, как отмечают авторы, подчёркивает необходимость разработки новых механизмов управления и контроля.

«Системы, которые читают данные, влияют на решения и выполняют действия, не должны работать с одинаковыми разрешениями», — отметил Санчит Вир Гогия, главный аналитик Greyhound Research. Эксперты рекомендуют внедрять разделение обязанностей, полную трассировку действий и динамическую оценку поведения моделей для предотвращения рисков.