Маркетинг ИИ-агентов как цифровых сотрудников может снизить способность людей выявлять ошибки и уменьшить чувство ответственности за результат.
Исследование профессора Университета Бостона Эммы Уайтс показало, что отношение к ИИ-инструментам как к «коллегам» вместо программных средств снижает эффективность работы человека. Участники исследования допускали на 18% больше ошибок, когда работа исходила от «ИИ-сотрудника», чем от чат-бота.
Когда ИИ-инструменты называют «сотрудниками» или включают в организационные структуры, формируются нереалистичные ожидания от их возможностей. Это может привести к тому, что люди будут хуже справляться со своими задачами, полагаясь на ИИ.
Исследование также выявило, что при таком подходе люди чувствуют меньшую ответственность за результаты работы ИИ. Они на 44% чаще передавали сомнительные результаты на проверку руководителю, вместо того чтобы самостоятельно исправлять ошибки, что нивелирует цель использования ИИ-агентов — экономию времени.
Эта тенденция вызывает опасения, поскольку ИИ-агенты все глубже проникают в такие сферы, как здравоохранение, образование и государственное управление. Существует риск, что ошибки, вызванные человеческими просчетами, будут списываться на ИИ.
Экономист MIT Дарон Асемоглу отмечает, что ИИ-агенты должны быть оптимизированы для улучшения человеческих возможностей, а не позиционироваться как замена людей. Маркетинг ИИ как «цифровых людей» может быть проигрышной стратегией.
Исследователи из Стэнфорда обнаружили, что работники часто хотели автоматизации в одних областях, но не в других. Например, юристы видели пользу в ИИ для отслеживания прогресса по делам, но не хотели, чтобы ИИ проверял кредитные рейтинги клиентов за торговых представителей.
Маркировка ИИ-агентов как «сотрудников» — это маркетинговый ход, который не улучшает функциональность инструмента, но может ухудшить производительность и ответственность людей, работающих с ним.