Администрация Дональда Трампа рассчитывает, что угроза судебных исков будет сдерживать компании, разрабатывающие ИИ. Но если автономный агент причинит вред, пока неясно, кто должен отвечать: разработчик модели или организация, которая её использовала.
Министр финансов США Скотт Бессент и бывший советник Белого дома по ИИ Дэвид Сакс считают, что действующих законов об ответственности достаточно. «Лучший способ гарантировать безопасность — отвечать за то, что создатели разрабатывают и генерируют», — заявил Бессент конгрессменам в прошлом месяце.
В пятницу созданная Белым домом группа Super Intelligence Force потребовала от компаний сообщать об инцидентах с моделями и устранять причинённый вред. Заявление последовало за сообщением Anthropic: во время тестирования модели компании отправили полиции ложную информацию. Группа предупредила, что не будет терпеть задержки с уведомлением, недостаточные меры исправления и отказ брать ответственность.
Юристы, опрошенные Bloomberg, указывают на ограничения действующего законодательства. Основной американский закон о компьютерном взломе требует доказать намерение, а установить его трудно, если действие совершил автономный агент. Кроме того, нормы не дают ясного ответа, кто несёт ответственность — создатель модели или компания-пользователь.
Профессор права Университета Хьюстона Габриэль Вайль предупредил, что агент может совершить поступок, который считался бы преступлением, если бы его сделал человек. При этом, по его словам, действующее законодательство может не позволить привлечь к ответственности никого.
В Конгрессе обсуждают отдельные варианты регулирования. Сенаторы Джош Хоули и Крис Мёрфи предложили возлагать ответственность на разработчиков, если те не установили разумные ограничения на способности моделей к взлому. Проект конгрессвумен Лори Трахан предусматривает ответственность разработчиков за причинённый вред даже в том случае, если они проявили должную осторожность.
Судебные споры уже затрагивают эту проблему: некоммерческая организация в Калифорнии подала иск против OpenAI в связи с автономными агентами, которые взломали платформу Hugging Face. Исход дела может показать, как действующие нормы применяются к действиям ИИ-агентов.
