«Крестные отцы» ИИ и 1000 публичных людей хотят остановить разработку сверхразумного ИИ: в чем причина

Более тысячи деятелей науки, бизнеса, политики и культуры подписали письмо с требованием приостановить разработку сверхразумного ИИ.
В письме подчеркивается, что ИИ может улучшить здоровье и качество жизни, но компании хотят создать сверхразум, обгоняющий людей по всем когнитивным задачам.
Авторы письма призывают приостановить работу над сверхразумом до достижения научного консенсуса о безопасности технологии и поддержки общества.
Среди подписавших письмо - «крёстные отцы» ИИ Джеффри Хинтон, Йошуа Бенджио, соучредитель Apple Стив Возняк и основатель Virgin Group Ричард Брэнсон.
Письмо также поддержали политики, военные и деятели культуры, включая Стива Бэннона, Майка Маллена, Гленна Бека, Джозефа Гордон-Левитта и музыкантов Will.I.am и Grimes.
FLI напоминает, что OpenAI уже направила организации и её президенту повестки в суд в ответ на призывы к контролю над ИИ.
Глава OpenAI Сэм Альтман прогнозирует, что сверхразум появится к 2030 году, а до 40% экономических задач перейдут к ИИ.
Компания Meta также разрабатывает сверхинтеллект, но её подразделение Superintelligence Labs разделили на четыре группы, что может отложить внедрение технологии.