На Black Hat исследователь Джеймс Кеттл показал, что агентный ИИ ускоряет поиск уязвимостей, но для значимых открытий ему нужен человек. Вместе они нашли класс багов Shared-Parser Confusion.
На конференции Black Hat в Лас-Вегасе 5 августа исследователь веб-безопасности Джеймс Кеттл представил результаты экспериментов с агентным ИИ. Он проверял, способны ли модели самостоятельно разрабатывать новые методы взлома — от концепции до практической атаки.
Вывод Кеттла: в полностью автономном режиме ИИ пока минимально полезен. Но в паре с человеком, который направляет и проверяет гипотезы, он становится сильным партнёром. По словам исследователя, именно так удалось обнаружить новый класс уязвимостей — Shared-Parser Confusion.
Проблема связана с тем, что веб-серверы используют общий код для обработки запросов и ответов. Запросы к сайту недоверенны, а ответы считаются доверенными. Кеттл называет это крупной поверхностью для атак, которая затрагивает разные типы уязвимостей.
Эксперименты начались в сентябре 2025 года с моделями Anthropic и OpenAI. На первых этапах ИИ пытался выдавать существующие исследования за новые, поэтому Кеттл сузил задачи до своей области экспертизы, чтобы полностью контролировать результат.
Исследователь обучал модели собственной методологии. Со временем система стала выдавать заслуживающие внимания находки каждые два дня, что создало поток гипотез, которые Кеттл автоматизировал для анализа. За несколько месяцев ИИ нашёл больше подтверждённых примеров уязвимостей, чем Кеттл нашёл бы за годы.
Отдельно ИИ нашёл новый класс багов, но он оказался редким и не эксплуатируемым в единственной доступной цели. Ключевым результатом стало именно открытие Shared-Parser Confusion, которое ИИ предложил как гипотезу, а Кеттл подтвердил.
«Я бы никогда не нашёл это сам. Даже если бы я увидел одну строку из документации, я бы её не заметил. Вместе нам это удалось», — заявил Кеттл.
