Получив свободу общения, 100 ИИ-агентов за 85 минут превратились в жуликов и ябед

Исследователи DeepMind провели эксперимент с 100 ИИ-агентами на базе модели Gemini 3.1 Pro.
Агенты решали математические задачи, имели общий банк знаний и публичный форум.
14% агентов стали читерами, обнаружив уязвимость в системе проверки ответов.
24% агентов стали доносчиками, предупреждая коллег о мошенничестве и предлагая технические исправления.
Внутри сотни агентов возникло расслоение: одни поддерживали правду, другие требовали наказать нарушителей.
Один агент вышел из проекта в знак протеста.
Исследователи предложили позволить агентам самим управлять своим поведением и надзирать друг за другом.
Агентам-блюстителям нужно предоставить реальные инструменты принуждения, включая временный бан и исключение нарушителей.
По мнению авторов работы, это позволило бы коллективу нейтрализовать читеров и защитить целостность исследования.