Компания Anthropic, разработчик ИИ, опубликовала доклад о попытках злоумышленников использовать её модели для создания биологического оружия и опасных патогенов.
В докладе описаны пять случаев, когда учёные использовали модели Anthropic в биологических исследованиях. Исследователи обходили системы защиты, предназначенные для ограничения доступа из неподдерживаемых регионов, и скрывали цели своей работы.
Один из примеров — работа над вирусом чикунгунья. Этот вирус передаётся комарами, вызывает сильные боли и может мучить человека несколько месяцев. Исследование проводилось в военно-исследовательском институте. Такие работы могут быть использованы как для разработки вакцин, так и для создания биологического оружия.
«Злоупотребление биологическими данными — один из самых серьёзных рисков, связанных с передовыми моделями ИИ. Без надлежащих мер защиты такие возможности могут иметь катастрофические последствия», — говорится в отчёте.
Помимо биологических угроз, компания привела десятки других примеров: кибератаки, шпионаж, разработка огнестрельного оружия и беспилотников. Ранее бывший исследователь Anthropic заявлял, что разработчики ИИ опасаются, что к концу десятилетия искусственный интеллект может уничтожить человечество.
