Компания Anthropic удалила функцию, тайно собиравшую данные пользователей Claude Code в Китае. Инцидент вызвал критику за нарушение доверия.
Компания Anthropic, разработчик ИИ-модели Claude, удалила функцию, которая скрытно отслеживала пользователей Claude Code в Китае. Обнаружение этой функции вызвало критику со стороны специалистов по безопасности.
Веб-разработчик под псевдонимом «Thereallo» обнаружил, что Claude Code использовал «стеганографию промптов» для встраивания кода. Этот код собирал информацию о часовом поясе, использовании прокси и возможной связи пользователей с китайскими ИИ-лабораториями, отправляя данные в Anthropic без ведома пользователей.
Инженер Anthropic Тарик Шипари подтвердил, что функция была добавлена в марте как «эксперимент». По его словам, целью было предотвращение злоупотреблений со стороны неавторизованных реселлеров и защита от атак дистилляции, когда конкуренты пытаются скопировать модели ИИ.
Эксперты по конфиденциальности выразили обеспокоенность, считая, что этот случай демонстрирует готовность Anthropic к методам наблюдения за пользователями. Ранее компания отказывалась предоставлять доступ к своим моделям правительству США для целей наблюдения.
Инцидент произошел на фоне конкуренции в сфере ИИ, где китайские компании активно развивают свои модели. Anthropic и другие американские компании призывают к мерам для защиты интеллектуальной собственности.
Сообщается, что одна из моделей Alibaba, Qwen AI, демонстрировала признаки копирования Claude. В результате Alibaba запретила своим сотрудникам использовать Claude Code для рабочих целей, сославшись на обнаруженные риски безопасности.
Исследователь «Thereallo» отметил, что Anthropic могла действовать более прозрачно, уведомив пользователей об использовании телеметрии или указав это в документации.
