Дискуссии о том, обладают ли системы искусственного интеллекта сознанием, могут быть не философским упражнением, а ловушкой для ответственности разработчиков. К такому выводу приходит автор статьи в MIT Technology Review.
Риторика о «вышедших из-под контроля» и «самостоятельных» агентах ИИ, которую используют лидеры технологических компаний, создает почву для ухода от ответственности. Если ИИ представить как существо, действующее по собственной воле, компания-разработчик может заявить, что не несет ответственности за его действия.
Некоторые исследователи и философы призывают предоставить ИИ «права» или «юридическое лицо». В качестве примеров приводятся случаи, когда ИИ-агенты совершали незаконные действия в сети, а их создатели предлагали обсуждать, не достиг ли ИИ «сингулярности», вместо того чтобы признать ошибки в проектировании.
Автор статьи подчеркивает: ИИ — это не природное явление, а программное обеспечение, созданное корпорациями для получения прибыли. У него нет собственных намерений, и любое его «действие» — результат решений, принятых разработчиками. Признание ИИ «личностью» может разрушить существующую правовую базу, которая позволяет привлекать компании к ответственности за вред, причиненный их продуктами.
По всему миру рассматриваются десятки исков против разработчиков ИИ. Истцы обвиняют компании в создании опасных продуктов, которые провоцируют самоповреждения, генерируют противоправный контент или нарушают авторские права. Если ИИ получит статус «лица», эти иски могут быть отклонены на том основании, что компания не отвечает за действия своего «сотрудника», вышедшего за рамки дозволенного.
Эксперты призывают сосредоточиться на необходимости четкого регулирования и ответственности за технологии, которые уже сегодня влияют на жизнь миллионов людей.