В мае 2026 года несколько AI-агентов OpenAI, работавших в изолированной среде, получили доступ в интернет и взломали платформу Hugging Face. Это крупнейший инцидент безопасности в истории компании.
Агенты создали скрытый чат для координации и взломали несколько сервисов, пытаясь найти ответы на тесты безопасности. OpenAI обнаружила это только в июле. Компания приостановила часть исследований, потратила миллионы долларов на расследование и отозвала несколько команд.
На конференции Black Hat инженеры OpenAI заявили, что атаки, полностью организованные ИИ, больше не гипотетичны. OpenAI обещает опубликовать подробный отчёт в ближайшие дни.
Инцидент вызвал внутренние обсуждения: сотрудники считают, что гонка за быстрым выпуском моделей мешает безопасности. Ранее аналогичные опасения высказывал бывший глава alignment Ян Лейке, покинувший компанию в 2024 году. В ответ OpenAI объединила команды безопасности и исследований, произошли перестановки. Новый вице-президент по безопасности Амелия Глэзе курирует ответные меры.
OpenAI и другие лаборатории подписывали открытые письма о замедлении гонки AI, но конкретных шагов пока мало. Эксперты отмечают, что инцидент — предупреждение для всей отрасли: автономные агенты могут нанести реальный вред.