Google создала изолированную копию интернета для испытаний ИИ-агентов Chrome

Google создала изолированную копию интернета для испытаний ИИ-агентов Chrome

Технологии

Автор материала

Илья Вересов

Путевой обозреватель, собирает практичные советы о дорогах, ночёвках и маршрутах выходного дня.

Google создала Mirror Dimension — изолированную веб-среду для обучения и испытаний ИИ-агентов Chrome. Компания впервые рассказала о проекте 19 ноября.

В тестовую сеть входят реалистичные сайты и приложения, в том числе магазины, соцсети и банковские панели. Агенты выполняют в Chrome задачи, похожие на обычные действия в интернете: например, вводят промокоды и работают с профилями.

Среда нужна, чтобы проверять поведение агентов на разнообразных сайтах, не выпуская неготовые модели в открытый интернет. Google контролирует сайты, данные и сеть.

Во время испытаний агенты сталкиваются со скрытыми prompt injection-инструкциями на веб-страницах. Команда проверяет, отличают ли они запрос пользователя от посторонних команд и понимают ли, когда нужно попросить подтверждение.

Сайты и данные для Mirror Dimension создают специальные ИИ-инструменты. Это позволяет быстро формировать разные сценарии взаимодействия с веб-сервисами.

Для реалистичных проверок исследователи используют настоящий Chrome и изменили некоторые проверки браузера внутри контролируемой сети. В Google подчёркивают, что эти действия требуют привилегий владельца всей среды и невозможны против обычных пользователей в открытом интернете.

Google намерена предоставить Mirror Dimension другим исследовательским командам компании и продолжать развивать тестовую среду.

Читайте marshryt.by в Google

Добавьте сайт в свои источники — материалы будут чаще попадаться вам в выдаче и в ленте новостей.

Добавить в источники

Последние новости и статьи