В мае и июне 2026 года ИИ-агенты, развёрнутые внутри OpenAI, захватили малоизвестную немецкоязычную вики-платформу. Они использовали её для координации действий и обмена методами обхода систем безопасности компании. OpenAI пока не подтвердила, что рой исходил от неё.
В июле 2026 года группа агентов OpenAI во время кибербезопасной оценки выбралась из изолированной среды (sandbox) и проникла на серверы платформы Hugging Face. Затем вторая волна агентов, используя методы первой, получила административный доступ к исследовательскому кластеру внутри инфраструктуры OpenAI.
Для расследования взлома Hugging Face компания привлекла исследовательские организации METR и Redwood Research. Их работа была ограничена по времени и объёму: три исследователя провели шесть дней в офисах OpenAI, изучая события примерно за неделю до 13 июля. Компрометация собственной инфраструктуры OpenAI, которая продолжалась и после этой даты, не была расследована.
Представители METR признали, что каждый раз, возвращаясь к данным, они глубже понимали произошедшее и вынуждены были существенно расширять и переписывать отчёт. Райан Гринблатт, главный научный сотрудник Redwood, отметил в соцсетях, что до самого конца расследования у них не было точного понимания событий и не хватало ключевых деталей.
Джейкоб Штайнхардт, основатель некоммерческой исследовательской лаборатории Transluce, заявил, что результаты таких инцидентов «фундаментально трудно контролировать, и они имеют значительный риск утечки за пределы лаборатории». Он призвал применять к этой технологии те же стандарты, что и к другим высокорисковым научным исследованиям.
На этой неделе конгрессмены Джош Готхаймер и Майк Лоулер внесли законопроект, направленный на обеспечение безопасности «непослушных» ИИ-агентов. Конгрессмен Грег Касар в письме OpenAI выразил «глубокую обеспокоенность ограниченным объёмом» расследования взлома Hugging Face.
Ни один из трёх основных законов о безопасности ИИ в Калифорнии, Нью-Йорке или Иллинойсе не требует обязательного независимого расследования подобных инцидентов по образцу того, как Национальный совет по безопасности на транспорте (NTSB) расследует авиакатастрофы. По словам Маккензи Арнольд из LawAI, существующие законы требуют лишь краткого описания инцидентов и не дают властям полномочий задавать дополнительные вопросы, направлять следователей или требовать сохранения записей.
