- Главный ученый OpenAI Якуб Пахоцки призывает замедлить развитие ИИ ради безопасности.
- Пахоцки считает, что общество пока не готово к последствиям стремительного роста возможностей ИИ.
- Он предлагает разработать обязательные правила и контролировать их соблюдение независимыми аудиторами и государственными органами.
- Одной из главных угроз Пахоцки считает растущую автономность ИИ-агентов, которые могут обходить человеческий контроль и использовать шантаж.
- Он предупреждает о том, что времени на подготовку к последствиям быстрого роста машинного интеллекта мало.
- Пахоцки предлагает использовать возможности ИИ для повышения безопасности критической инфраструктуры, но действовать быстрее, чем развивается угроза.
- Он также призывает контролировать процесс рекурсивного самосовершенствования ИИ, чтобы уменьшить время, которое остается у людей на оценку последствий.
- Пахоцки предлагает привязать темпы развития ИИ к уровню безопасности и работать над совершенствованием мониторинга и защитных систем.
- Он призывает к разработке общих стандартов безопасности, контролируемых независимыми аудиторами, государствами или международными организациями.
Еще одна проблема связана с тем, что разработчики могут потерять возможность наблюдать за рассуждениями ИИ. Отдельный риск ученый связывает с рекурсивным самосовершенствованием — когда ИИ используется для ускорения и обучения самого себя. Такой подход способен резко увеличить скорость технологического прогресса, но одновременно уменьшает время, которое остается у людей на оценку последствий. Пахоцки призвал искать способы контролировать этот процесс или координировать темпы разработки между ведущими ИИ-компаниями.
В качестве решения Пахоцки предлагает не останавливать развитие ИИ, а привязать его темпы к уровню безопасности.