Власти Сан-Франциско требуют от технологических гигантов убрать из магазинов приложений программы, создающие интимные дипфейки без согласия.
Городские власти Сан-Франциско предписали компаниям Apple и Google удалить десятки приложений, известных как "nudify", из своих магазинов. Эти программы изменяют цифровые изображения, удаляя одежду с людей на фотографиях.
Законодательство Калифорнии запрещает создание дипфейк-порнографии без согласия. С 2025 года в штате действует закон, позволяющий жертвам подавать гражданские иски против распространителей таких материалов.
Городской прокурор Сан-Франциско Дэвид Чиу заявил, что Apple и Google продолжают размещать и получать доход от подобных приложений, несмотря на существующие нормы. По его словам, компании зарабатывают на приложениях, эксплуатирующих женщин и девочек путем создания интимных дипфейков без согласия.
Офис прокурора уведомил компании о их роли в обработке платежей за незаконные покупки на протяжении почти года. По данным Tech Transparency Project, в январе и апреле текущего года обеим компаниям направлялись отчеты о десятках приложений, продающих интимные дипфейки за плату.
Отчет TTP за апрель указывал, что Google и Apple намеренно направляли пользователей к таким приложениям, называя их ключевыми участниками распространения ИИ-инструментов для создания сексуализированных изображений. Чиу также сообщил, что компании могли заработать миллионы долларов на комиссиях от этих услуг.
В письмах от офиса Чиу содержится предупреждение о возможных гражданских штрафах для Apple и Google за нарушение закона. Компании должны связаться с городом в течение 28 дней.
Представитель Apple заявил, что приложения "nudify" запрещены в App Store. Компания удалила три из указанных приложений и прекращает действие учетных записей их разработчиков. Еще четыре приложения находятся в процессе проверки на предмет нарушений.
Представитель Google сообщил, что пять приложений, упомянутых в письме, были приостановлены в Google Play. Он добавил, что компания расследует сообщения о нарушениях и принимает меры, включая приостановку сотен нарушающих приложений и ограничение связанных поисковых запросов.
Дипфейк-порнография, ранее затрагивавшая в основном известных женщин, теперь может быть применена к любому человеку, чья фотография находится в открытом доступе, благодаря "nudify" приложениям.
