• Йошуа Бенджио присоединился к проекту Safeguarded AI британского правительства.
• Safeguarded AI финансируется Агентством передовых исследований и изобретений Великобритании (ARIA).
• Цель проекта - внедрение механизмов безопасности в ИИ-системы.
• Safeguarded AI получит финансирование в размере 59 миллионов фунтов стерлингов в течение 4 лет.
• Основная задача проекта - разработка ИИ-системы для проверки безопасности других ИИ-систем.
• Бенджио будет научным директором проекта и оказывать ключевую научную поддержку.
• Цель проекта - создание ИИ-систем, способных давать количественные гарантии безопасности.
• Safeguarded AI планирует предложить новые способы защиты ИИ-систем на основе математической достоверности.
• ARIA также предоставляет финансирование для высоко рискованных секторов для использования механизмов безопасности ИИ.