США едва не начали операцию по перехвату китайского судна из-за отчёта, сгенерированного с помощью ИИ. Документ, подготовленный аналитиком Командования специальных операций США, содержал ложные данные о том, что судно перевозит компоненты ядерной оружейной программы. Об этом сообщает CNN со ссылкой на четыре осведомлённых источника.
Аналитик использовал чат-бота для анализа разведданных о грузовом манифесте. Нейросеть «смешала данные из открытых источников с секретными сигналами разведки» и выдала неверный вывод. На основе этого отчёта военные готовились перехватить судно с поддержкой с воздуха, но в последний момент выяснили, что информация о грузе была ошибочной. Один из источников назвал ситуацию «едва не начавшей войну».
Инцидент — один из самых серьёзных примеров того, как «галлюцинации» ИИ (выдумывание фактов при недостатке данных) могут привести к реальным последствиям. Подобные ошибки уже фиксировались в работе журналистов, учёных, врачей и полицейских, но в данном случае речь шла о военной разведке.
Пентагон активно внедряет генеративный ИИ. В январе 2026 года запущена стратегия ускоренного использования ИИ, а в декабре 2025-го Министерство обороны объявило о внедрении платформы GenAI.mil на базе Google Gemini. Позже к ней добавили Grok for Government. По данным Пентагона, 1,5 миллиона военнослужащих уже используют эти инструменты.
В 2023 году Госдепартамент США подписал декларацию об ответственном военном использовании ИИ, которая требовала обязательного участия человека в принятии решений. Однако с тех пор в мире уже применялись полностью автономные ударные дроны, а Пентагон в марте 2026 года внёс компанию Anthropic в чёрный список за отказ предоставить свои модели для систем автономного оружия.
Этот случай вновь поднимает вопрос о безопасности ИИ в военной сфере. Пока регуляторы и разработчики обсуждают меры контроля, ошибка алгоритма едва не привела к реальному боестолкновению.
