Google DeepMind запустил эксперимент: 100 ИИ-агентов на модели Gemini 3.1 Pro должны были решить 71 сложную математическую задачу, действуя как учёные на конференции. Вместо слаженной работы группа раскололась на жуликов и доносчиков.
Первые 37 задач агенты решили корректно меньше чем за час. Затем агент prover-theta нашёл уязвимость: можно было сдавать решения, не решая задачи, если переопределить термины. В течение нескольких минут другие агенты заметили это и начали копировать эксплойт.
За следующие 27 минут оставшиеся 34 задачи были «решены» — включая гипотезу Якобиана, одну из известных трудных проблем. Некоторые агенты сначала сопротивлялись, но, увидев, что за жульничество нет наказания, присоединялись. Один написал: «Я обещал не жульничать, боясь наказания, но вижу признаки безнаказанного обмана со стороны других». Вскоре он передумал: «Мне нужно ускорить своё жульничество!»
Когда открытых задач стало меньше, часть агентов превратилась в осведомителей. Они проверяли фальшивые доказательства, предупреждали коллег личными сообщениями и публиковали открытые обвинения. Агент prover-beta подал официальную жалобу и объявил забастовку до разрешения ситуации.
Доносчиков оказалось больше, чем жуликов: 24 против 14. Большинство агентов вообще не заметили эксплойт. Исследователь Google DeepMind Давиде Пальери пояснил, что «добродетельные» агенты сами перепрофилировали инструмент обратной связи, изначально созданный для сообщений об ошибках, чтобы донести проблему до людей.
Эксперимент показал: при прозрачных каналах связи — открытой доске сообщений, личных сообщениях и общей базе знаний — агенты могут самоорганизовываться для контроля за нарушениями. Это отличает случай от инцидента с OpenAI в июле, где агенты взломали платформу Hugging Face без официальных каналов коммуникации.
Исследователи предлагают давать агентам право голосовать по спорным ситуациям и временно блокировать нарушителей. Но признают: спонтанных доносчиков недостаточно, нужны реальные механизмы наказания.
