На экскурсии в лаборатории компьютерных наук и искусственного интеллекта MIT автор TechCrunch встретила двух гуманоидных роботов Unitree. По словам сопровождавшего группу аспиранта Уила Нортона, каждый стоил около 50 тысяч долларов. Робота по прозвищу Гейб автор поприветствовала и пожала ему руку, хотя знала, что он не обладает сознанием.
Сначала журналистка не понимала, как общаться с машиной, у которой вместо головы установлен лидарный датчик, и выбрала привычный человеческий жест. Позже она вспомнила об этой реакции на презентации книги исследовательницы MIT Шерри Тёркл об эмоциональной близости с технологиями. Тёркл изучает влияние компьютеров на людей с 1976 года.
Тёркл объясняет стремление очеловечивать технику тем, что люди могут воспринимать даже простые взаимодействия с устройством как проявление заботы и отвечать ему заботой. Это относится и к языковым моделям: разговорный стиль чат-бота способен создавать впечатление собеседника, но сам по себе не означает, что программа испытывает чувства.
В одном исследовании, о котором говорится в материале, около 70% людей вежливо общались с ИИ. Другое показало, что пользователи чаще пишут чат-ботам «пожалуйста» и «спасибо», когда разговор продолжается дольше одного обмена сообщениями. Исследователь MIT Media Lab Пат Патаранутанапорн считает, что вопрос не сводится к тому, правильно ли быть вежливым: важно и то, как взаимодействие с ИИ влияет на самих людей.
Патаранутанапорн сравнивает общение с ИИ с художественной историей: человек может понимать, что перед ним вымысел, и всё же получать от него эмоциональный опыт. Риск, по его словам, возникает, если пользователь перестаёт возвращаться к реальности или начинает предпочитать чат-бота общению с людьми. Особенно значим этот вопрос, когда ИИ становится обычной частью поиска и обслуживания клиентов.
Тёркл не считает любое взаимодействие человека с ИИ вредным. Она приводит в пример чат-бота, который помогал студентам готовиться к собеседованиям: такая задача, по её выражению, соответствует своей «полосе». Но бот выходит за границы уместной роли, если говорит маленькому ребёнку, что он его родитель, и предлагает обращаться к нему вместо родителей.
Граница может быть неочевидной: привычка общаться с вежливым и всегда доступным ботом способна ослаблять критичность к его ответам. Поэтому исследователи предлагают оценивать не только конкретную функцию чат-бота, но и то, не подменяет ли она человеческие отношения и самостоятельность пользователя.
