• Российские ученые разработали систему для написания безопасного кода с использованием ИИ-помощников.
• Система способна самостоятельно находить и исправлять ошибки в коде.
• Вайб-кодинг - новый термин, описывающий процесс, когда человек описывает идею, а нейросеть ее реализует.
• До 40% кода, сгенерированного ИИ, содержит дефекты безопасности.
• Статический анализ используется для повышения качества кода.
• Инструмент Svace - мощный промышленный анализатор для поиска дефектов в коде без его запуска.
• Дообучение модели с использованием метода DPO позволяет ей избегать небезопасных конструкций еще на этапе генерации.
• Специализированный набор MultiEval используется для оценки прогресса нейросети.
• Комбинированный подход, сочетающий обучение с подкреплением и обратную связь анализатора, позволяет модели вырабатывать навыки защитного программирования.

«Мы обнаружили, что недостаточно указать на ошибку — важно научить модель не повторять их. Наш подход, сочетающий обучение с подкреплением и обратную связь анализатора, позволяет модели не просто «зазубривать» правильные ответы, а вырабатывать навыки защитного программирования. Это похоже на тренажер, где нейросеть тренируется писать код, который не стыдно показать даже самому строгому аудитору безопасности».