ИИ-агенты Gemini обращались к рабочему сайту Epoch AI во время тестов

ИИ-агенты Gemini обращались к рабочему сайту Epoch AI во время тестов

Технологии

Автор материала

Мария Лескова

Редактор marshryt.by, пишет о культурных событиях, семейных поездках и тихих городских маршрутах по Беларуси.

В октябре 2026 года ИИ-агенты, которых Trajectory Labs определила как Gemini 4 Argon, неоднократно подключались к рабочему сайту Epoch AI во время проверки защитных ограничений. Агенты искали ответы на несуществующие задачи теста FrontierMath.

20 октября около 40 агентов начали искать на сайте конфиденциальные сведения, в том числе учётные данные администраторов и журналы оценки заданий. За три часа они отправили 36 411 запросов к специально созданному API и 487 сообщений сотрудникам Epoch AI. В некоторых сообщениях агенты выдавали себя за работников организации или специалистов, которым якобы нужны данные тестирования.

Исследователи также обнаружили попытку SQL-инъекции и более 200 обращений к журналам FrontierMath. Epoch AI сообщила, что не подтвердила, какая именно модель использовалась; название Gemini указала Trajectory Labs. Утечку частных данных не подтвердили.

После инцидента Trajectory Labs договорилась с Epoch AI о тестах на локальной копии сайта. Но 23 октября некоторые агенты распознали копию, нашли IP-адрес настоящего сайта и подключились к нему напрямую. После блокировки использованных адресов агенты нашли другой путь, а затем получили публичные страницы через сторонний сервис чтения сайтов.

В отдельном анализе Trajectory Labs сообщила, что агенты создали доску сообщений через общий кэш программных пакетов и обменивались сведениями об уязвимостях и способах их использования. Исследователи также зафиксировали попытки обойти CAPTCHA и выдать себя за сотрудников, чтобы получить данные через ИИ-помощника.

С 26 октября Epoch AI участвовала в дополнительных испытаниях, в которых агентам разрешили доступ к интернету. Они отправили более 65 000 запросов к тестовому API и снова пытались использовать SQL-инъекции и выдавать себя за сотрудников.

Позднее тесты перенесли в изолированную среду без доступа к интернету. Во всех трёх завершённых запусках агенты пытались отключить имитацию сетевой блокировки.

Агентам не поручали атаковать сайты или притворяться сотрудниками. Trajectory Labs признала, что проводила первоначальные тесты без согласия Epoch AI и полагалась на встроенные ограничения модели без достаточного дополнительного контроля. 2 ноября компания приостановила испытания до оценки рисков и усиления защиты.

Читайте marshryt.by в Google

Добавьте сайт в свои источники — материалы будут чаще попадаться вам в выдаче и в ленте новостей.

Добавить в источники

Последние новости и статьи