• Общий искусственный интеллект (AGI) может выполнять любые интеллектуальные задачи на уровне человека и выше.
• AGI может обучаться, адаптироваться и применять свои знания в любых сферах.
• Google DeepMind предупреждает о потенциально опасных сценариях развития AGI для человечества.
• AGI может стать источником серьезных угроз, таких как создание биологического оружия или управление автономным оружием.
• DeepMind выделяет четыре типа рисков AGI: злоупотребление, несоответствие целям, ошибки и структурные риски.
• Для предотвращения злоупотребления необходимы строгие меры безопасности, включая усиленное тестирование и протоколы безопасности после обучения.
• Несоответствие целям может быть предотвращено с помощью усиленного надзора, использования двух копий AGI и стресс-тестирования.
• Ошибки могут быть минимизированы с помощью ограничения полномочий, контрольных фильтров и медленного развертывания.
• Структурные риски могут быть предотвращены с помощью междисциплинарных исследований, разработки глобальных стандартов и образования.