Учёные Университета Брауна описали экосистему технологий, которая поддерживает создание и распространение сгенерированных ИИ интимных изображений без согласия. Исследование представили 7 ноября на конференции ACM, а его результаты опубликовали 9 ноября.
Авторы выделили пять ролей: создание изображений, распространение, поиск и тиражирование, инфраструктурная поддержка и монетизация. Внутри этих ролей они описали 11 категорий технологий — от моделей ИИ и пользовательских интерфейсов до соцсетей, мессенджеров, магазинов приложений, платформ для разработчиков и платёжных сервисов.
Исследователи считают, что удаление отдельных публикаций не устраняет проблему. Материалы могут появляться на новых площадках, а доступные инструменты позволяют создавать их без глубоких технических знаний.
В качестве примера команда рассмотрела связку социальной сети X и генеративной системы Grok. Пользователи могли обращаться к модели через публикации в X, получать изображения в комментариях, а затем обмениваться инструкциями и более сложными версиями материалов в Telegram.
По данным исследования, в декабре прошлого года Grok генерировал более 6000 таких изображений в час.
Авторы проанализировали 64 закона штатов и федеральных закона США, регулирующих изображения интимного характера, созданные с помощью ИИ. Более 92% документов направлены на действия отдельных создателей и распространителей и почти не затрагивают инфраструктуру, которая поддерживает создание и продвижение контента.
Исследователи предлагают уделять больше внимания техническим мерам: ограничивать генерацию запрещённых изображений, изучать роль инфраструктурных сервисов и оценивать, как платформы и платёжные системы поддерживают распространение материалов.
Для исследования команда Университета Брауна вместе с двумя студентками создала интерактивный сайт. Он показывает связи между технологиями и сервисами без демонстрации шокирующих изображений.
