ИИ-дилемма: рост против риска для человечества. Разбираем этически неоднозначную статью экономиста Чарльза Джонса

Статья экономиста Чарльза Джонса рассматривает этическую дилемму: обмен ускоренного экономического роста и увеличения продолжительности жизни на риски, связанные с ИИ.
Модель включает параметры ускорения экономического роста, увеличения продолжительности жизни и риска уничтожения человечества сверхсильным ИИ.
Утверждается, что существует и может быть теоретически оценен уровень риска для человечества, который «допускается принять» в обмен на экономический рост и увеличение продолжительности жизни.
В статье предлагается простая модель для иллюстрации экономических сил, задействованных в этом процессе.
Результаты показывают, что оптимальное использование ИИ зависит от величины экзистенциального риска и функции полезности.
При логарифмической полезности результаты очень чувствительны к величине экзистенциального риска ИИ и зависят от срока использования ИИ.
При CRRA-полезности с коэффициентом относительного избегания риска (γ > 1) результаты более консервативны в отношении обмена выигрыша в потреблении на экзистенциальный риск.
Пересказана только часть. Для продолжения перейдите в режим подробного пересказа.