Группа исследователей использовала разговорную нейросеть GPT-4 от OpenAI для автономной атаки на веб-сайты, эксплуатируя неизвестные ранее уязвимости нулевого дня.

Им удалось успешно взломать более половины тестовых сайтов с помощью автономных ботов на базе GPT-4, которые самостоятельно координировали свои действия и при необходимости создавали новых ботов. Отмечается, что боты создавали эксплойты для ранее неизвестных уязвимостей "с нуля".

Ранее те же исследователи из Иллинойского университета в Урбане-Шампейне демонстрировали способность GPT-4 находить эксплойты для известных уязвимостей высокого риска (CVE), для которых исправления еще не были выпущены. Нейросеть смогла создать работающие эксплойты для 87% таких критических уязвимостей. В новой работе вместо одиночного бота исследователи использовали группу автономных, самовоспроизводящихся агентов на основе GPT-4.

Агенты применяли метод иерархического планирования, при котором разные боты отвечали за разные задачи. Главный "агент планирования" контролировал весь процесс, запуская несколько "субагентов" для выполнения конкретных задач. Подобно структуре начальник-подчиненные, "агент планирования" взаимодействовал с "управляющим агентом", который делегировал работу "экспертным субагентам", равномерно распределяя нагрузку. При тестировании на 15 реальных уязвимостях нулевого дня, метод иерархического планирования показал эффективность на 550% выше по сравнению с одиночным ботом.

Группа ботов смогла успешно эксплуатировать 8 из 15 уязвимостей, тогда как одиночный бот справился только с 3. Таким образом, исследование продемонстрировало способность ИИ автономно атаковать веб-приложения, обнаруживая и используя неизвестные ранее уязвимости. При координированной работе группы ботов вероятность успешной атаки составила 53%.

Источник: NewAtlas