• OpenAI представила ИИ-хакера GPT-Red для тестирования безопасности языковых моделей.
• Релиз решает проблему быстрого развития ИИ-систем и их проверки вручную.
• GPT-Red автоматизирует поиск уязвимостей и устраняет их до публичного развертывания.
• Модель успешно взломала торговый автомат в офисе OpenAI.
• В реальных атаках GPT-Red показала высокую эффективность.
• Инструмент интегрирован в процесс обучения модели GPT-5.6 Sol, повышая ее устойчивость к кибератакам.
• GPT-5.6 Sol стала самой устойчивой к кибератакам нейросетью компании.
• Повышение безопасности достигнуто без ущерба для производительности.

Результаты испытаний показали, что GPT-Red — сильный атакующий инструмент, способный обойти защиту большинства существующих систем. В бенчмарке, воссоздающем косвенные инъекции, модель успешно реализовала атаки в 84% тестовых сценариев, в то время как профессиональные ИИ-исследователи добились успеха лишь в 13% попыток. Инструмент продемонстрировал высокую эффективность при проведении сложных кибератак, таких как кража учетных данных AWS, обход двухфакторной аутентификации и эксфильтрация данных.