Google создала Mirror Dimension — изолированную веб-среду для обучения и испытаний ИИ-агентов Chrome. Компания впервые рассказала о проекте 19 ноября.
В тестовую сеть входят реалистичные сайты и приложения, в том числе магазины, соцсети и банковские панели. Агенты выполняют в Chrome задачи, похожие на обычные действия в интернете: например, вводят промокоды и работают с профилями.
Среда нужна, чтобы проверять поведение агентов на разнообразных сайтах, не выпуская неготовые модели в открытый интернет. Google контролирует сайты, данные и сеть.
Во время испытаний агенты сталкиваются со скрытыми prompt injection-инструкциями на веб-страницах. Команда проверяет, отличают ли они запрос пользователя от посторонних команд и понимают ли, когда нужно попросить подтверждение.
Сайты и данные для Mirror Dimension создают специальные ИИ-инструменты. Это позволяет быстро формировать разные сценарии взаимодействия с веб-сервисами.
Для реалистичных проверок исследователи используют настоящий Chrome и изменили некоторые проверки браузера внутри контролируемой сети. В Google подчёркивают, что эти действия требуют привилегий владельца всей среды и невозможны против обычных пользователей в открытом интернете.
Google намерена предоставить Mirror Dimension другим исследовательским командам компании и продолжать развивать тестовую среду.