Компания Anthropic, разработчик ИИ-модели Claude, в 2026 году пресекла несколько попыток учёных использовать её технологию для исследований, которые могли бы способствовать созданию биологического оружия. Об этом сообщает Financial Times со ссылкой на отчёт компании.
В отчёте приведены пять примеров, когда пользователи обходили средства контроля и скрывали цель своих исследований. Один из случаев касался исследователя из неподдерживаемого региона, который несколько недель планировал эксперименты с птичьим гриппом с помощью Claude. Компания ограничила доступ к самым слабым моделям ИИ.
Anthropic подчеркнула, что не может с уверенностью утверждать, что учёные намеревались причинить вред. Та же информация, необходимая для создания биологического оружия, может быть использована и для разработки вакцины. Компания заблокировала аккаунты, не раскрывая названия исследовательских институтов или стран.
Среди инцидентов также упоминается сеть фейковых приложений для знакомств, предназначенных для мошенничества, и системы слежки для выявления и мониторинга диссидентов. Кроме того, Anthropic сообщила о попытках семи лабораторий в Китае скопировать её технологию через процесс дистилляции.
Эксперты по безопасности и руководители ИИ-компаний всё чаще выражают обеспокоенность тем, что технология может быть использована террористическими группами, государственными акторами или одиночками для создания биологического оружия, вирусов или распространения опасных патогенов. Однако даже при теоретической возможности разработки биооружия с помощью ИИ остаются практические препятствия, такие как необходимость ресурсов и возможность реального изготовления.
Anthropic заявила, что надеется, что публикация этих примеров вызовет дискуссию в индустрии ИИ и с правительствами о возникающих биологических рисках и наилучших способах их противодействия.
