• OpenAI присвоила модели искусственного интеллекта Astra «критический» уровень риска в области кибербезопасности.
• Модель Astra близка к тому, чтобы считаться полноценным кибероружием.
• Система оценки готовности OpenAI служит внутренним регламентом для отслеживания рисков в ИИ-алгоритмах.
• Astra стала первой моделью, которая может превысить порог «высокого уровня».
• OpenAI ужесточила правила разработки и тестирования модели Astra.
• Работа над моделью приостановлена до соответствия новым требованиям.
• В OpenAI внедрили сквозной мониторинг цепочки рассуждений ИИ-агентов Astra для предотвращения опасных действий.
• Перед выходом модели на рынок OpenAI планирует привлечь сторонних экспертов и государственные органы для проверки.
• Цель разработчиков - использовать Astra для укрепления мировой цифровой инфраструктуры и предотвращения уязвимостей в ПО.

В ответ на выявленные риски OpenAI ужесточила правила разработки и тестирования. Инженеры перевели проект на изолированные системы тестирования с ограниченным доступом к сети, внедрили шифрование весов моделей и закрытые среды выполнения. Вся работа над Astra, не соответствующая новым требованиям, временно приостановлена.