Компания Anthropic прекратила доступ к своим моделям Fable 5 и Mythos 5 после получения директивы Министерства торговли США, обеспокоенного потенциальными угрозами национальной безопасности.
Компания Anthropic полностью отключила доступ к своим моделям искусственного интеллекта Fable 5 и Mythos 5. Решение принято через несколько дней после их запуска.
Причиной послужила директива Министерства торговли США, вводящая экспортные ограничения на использование моделей за пределами США. Anthropic заявила, что единственным способом немедленно выполнить правительственный приказ является отключение Fable 5 и Mythos 5 для всех клиентов.
Власти США выразили обеспокоенность сообщениями о возможности «взлома» (jailbreak) моделей Fable 5. Этот взлом мог бы обойти встроенные меры безопасности, предназначенные для блокировки запросов, связанных с кибербезопасностью, химией и биологией.
Администрация США запросила паузу в выпуске моделей, чтобы дать время укрепить национальный аппарат безопасности против подобных угроз. По оценкам, этот процесс может занять несколько недель.
Anthropic сообщила, что получила лишь «устное подтверждение о потенциальном узком, не универсальном взломе», позволяющем модели анализировать код на наличие программных ошибок. Компания отметила, что свидетельств такого взлома было мало, и он касался «незначительных» уязвимостей.
Компания считает, что обнаружение такого ограниченного взлома не должно служить основанием для отзыва коммерческой модели, доступной миллионам пользователей. Anthropic полагает, что подобный стандарт, примененный ко всей индустрии, остановит разработку новых моделей.
Ранее в этом месяце президент США подписал указ, призывающий разработчиков ИИ добровольно проходить государственное тестирование безопасности. Anthropic принесла извинения пользователям за «сбой» и пообещала предоставить дополнительную информацию.
