Опрос показал, что большинство ИТ-специалистов считают необходимым назначать ответственного за каждого ИИ-агента, однако лишь половина уверена, что это делается на практике. Скрытое использование ИИ и его автономность вызывают дополнительные опасения.
Согласно опросу Ivanti, 85% ИТ-специалистов считают, что у каждого ИИ-агента в компании должен быть назначенный ответственный. Однако лишь 42% уверены, что на практике такой человек четко определен.
Проблема усугубляется скрытым использованием ИИ-инструментов: 42% руководителей и 23% рядовых сотрудников признались, что применяли ИИ, не раскрывая этого факта. Более половины руководителей, скрывавших использование ИИ, объяснили это желанием получить «секретное преимущество».
Даже при наличии корпоративных политик по ИИ, их соблюдение часто остается на низком уровне. Только 24% сотрудников заявили, что правила ИИ «очень последовательно» соблюдаются в повседневной работе.
Ежедневно появляется около 50 новых ИИ-приложений, что затрудняет отслеживание их использования. Примерно 40% новых сервисов могут использовать введенные данные для обучения моделей по умолчанию.
Особую обеспокоенность вызывают автономные ИИ-агенты. Если их права настроены слишком широко, они могут получать доступ к конфиденциальным данным и выполнять действия без прямого разрешения пользователя.
Исследование выявило, что 68% ИТ-специалистов сталкивались с «ИИ-галлюцинациями», которые могли повлиять на операционные процессы. При этом 49% продвинутых пользователей ИИ полностью доверяют результатам, влияющим на ИТ-решения.
Ключевой проблемой является не столько отсутствие правил, сколько недостаточный контроль над реальной работой ИИ-агентов. Документация и проверки перед запуском не всегда эффективны, если каждое действие агента в системе не проходит отдельную авторизацию.
