DeepMind прогнозирует появление ИИ человеческого уровня к 2030 году

DeepMind прогнозирует появление ИИ человеческого уровня к 2030 году.
AGI может представлять экзистенциальную угрозу и уничтожить человечество.
Общий искусственный интеллект - система, сопоставимая с 99% квалифицированных взрослых в широком спектре задач.
DeepMind сравнивает свой подход к управлению рисками AGI с методами Anthropic и OpenAI.
Авторы считают, что Anthropic уделяет недостаточно внимания безопасности обучения и контроля, а OpenAI слишком полагается на автоматизацию исследований безопасности ИИ.
В документе ставится под сомнение возможность создания сверхразумного ИИ, превосходящего человека во всех задачах.
Авторы предлагают стратегию защиты гипотетического общего ИИ на основе ограничения доступа злоумышленников, повышения прозрачности решений ИИ и создания защищенных сред для его работы.
Эксперты выразили скептицизм относительно положений исследования, указывая на размытость концепции AGI и недоказанность гипотезы о самоулучшении ИИ.