OpenAI представила специализированную модель искусственного интеллекта GPT-6 Cyber, предназначенную для исследований в области кибербезопасности. Она помогает находить уязвимости в программном обеспечении, проверять возможность их эксплуатации и разрабатывать исправления. Доступ к новинке пока ограничен проверенными специалистами по информационной безопасности.
По данным OpenAI, GPT-6 Cyber заметно превосходит предыдущую модель GPT-5.6 Cyber в задачах поиска и эксплуатации уязвимостей. В тесте ExploitGym, который проверяет способность ИИ использовать заданную уязвимость в удаленной системе, новая модель набрала 48,5% против 32,1% у предшественника. Это относительный прирост примерно на 51%.
Отдельное внимание разработчики уделили безопасности самой модели. GPT-6 Cyber обучали соблюдать границы разрешенного тестирования и не атаковать системы, которые не входят в поставленную задачу. В специальном испытании без дополнительных инструкций безопасности модель оставалась в заданных рамках в 99,93% случаев. С использованием таких инструкций показатель достиг 100%.
OpenAI уже применила GPT-6 Cyber для проверки реального программного обеспечения. С помощью модели исследователи обнаружили 81 ранее неизвестную уязвимость высокой степени опасности в Firefox. Компания передала результаты Mozilla, которая начала выпускать исправления. Кроме того, модель помогла создать рабочие эксплойты для 948 уязвимостей ядра Linux. Разработчики также сообщили о 304 критических находках сопровождающим проекта и подготовили варианты исправлений.
В OpenAI считают, что подобные инструменты могут ускорить поиск ошибок и помочь разработчикам защищать программное обеспечение до того, как уязвимостями воспользуются злоумышленники. Высокая способность модели создавать эксплойты требует строгого контроля над ее применением.
На первом этапе GPT-6 Cyber доступна только одобренным участникам программы Daybreak Red, предназначенной для авторизованных исследований безопасности. В дальнейшем OpenAI планирует расширить доступ на другие организации, прошедшие проверку.
Читайте также: ChatGPT Images 2.6 научилась делать анимированные GIF