• ИИ может поставить человечество перед развилкой: утопия или потеря контроля.
• Гонка США и Китая за сверхинтеллект ускоряет процесс.
• До «чего-то безумного» может оставаться около 4 лет.
• Первый сценарий: пессимистический, потеря контроля над собственной судьбой и разрушение социальных институтов.
• Второй сценарий: позитивная альтернатива, мир «постинструментального» изобилия и безусловный базовый доход.
• Оптимистический сценарий несет риск потери смысла и необходимости перестраивать культуру.
• Изменение рынка труда потребует реформы образования и подготовки людей к искусству жизни.
• Глубокая трансформация затронет биологическую и моральную природу человека.
• Победа над старением даст возможность жить тысячи лет и накапливать мудрость.
• Возникнут этические вопросы о генетическом «выключении» жадности, лжи и агрессии.
• Выбор между реальным и виртуальным мирами станет более сложным.
• Интеллектуальный взрыв после появления общего искусственного интеллекта (AGI) может привести к непредсказуемым последствиям.
• Главная задача - поиск баланса между безопасностью AGI и движением вперед в развитии ИИ.