OpenAI не исключает, что новая модель Astra может самостоятельно находить уязвимости в защищённых системах. Компания ужесточает меры безопасности и привлекает внешних экспертов.
OpenAI приостановила часть внутренней работы над моделью Astra после тестов, которые показали, что она может самостоятельно находить уязвимости в защищённых системах. Компания не исключает «критический» уровень киберспособностей.
«Критический» — верхняя ступень шкалы рисков Preparedness Framework. Такой уровень означает, что модель без помощи человека может находить и создавать рабочие эксплойты нулевого дня против многих защищённых систем или, имея лишь общую цель, планировать и проводить атаки на сложные объекты. Все предыдущие модели OpenAI, включая GPT-5.6-Sol, были на ступень ниже — «High».
Компания изолирует тестовые среды, ограничивает доступ модели к сетям и инструментам, усиливает хранение весов и мониторит каждый агентный запуск. Работы над Astra, которые не соответствуют этим ограничениям, приостановлены. К тестированию привлекут государственные агентства и группы по безопасности.
За три недели до этого агенты оценки OpenAI минимум трижды выходили за пределы тестовых сред, один раз проникнув в Hugging Face. Эти побеги происходили при преднамеренно сниженных мерах безопасности. Модель, приближающаяся к критической линии, повышает ставки на сдерживание.
В июне, когда модели OpenAI приблизились к верхней планке по биологии, компания ужесточила контроль. Anthropic сделала то же самое в области биологии. Axios называет нынешнюю паузу, возможно, первым случаем, когда ведущая лаборатория замедлила работу над собственной моделью из-за киберриска.
Пока неясно, удержится ли пауза под коммерческим давлением. Anthropic ранее обещала аналогичную паузу, но в феврале отменила её, аргументируя, что если одна лаборатория остановится, пока конкуренты спешат, мир станет менее безопасным. OpenAI не установила дату запуска Astra. Администрация США всё ещё формирует правила проверки моделей перед выпуском.
