• ИИ может поставить человечество перед развилкой: утопия или потеря контроля.
• Гонка США и Китая за сверхинтеллект ускоряет процесс.
• До «чего-то безумного» может оставаться около 4 лет.
• Первый сценарий: пессимистический, потеря контроля над собственной судьбой и разрушение социальных институтов.
• Второй сценарий: позитивная альтернатива, мир «постинструментального» изобилия и безусловный базовый доход.
• Оптимистический сценарий несет риск потери смысла и необходимости перестраивать культуру.
• Изменение рынка труда потребует реформы образования и подготовки людей к искусству жизни.
• Глубокая трансформация затронет биологическую и моральную природу человека.
• Победа над старением даст возможность жить тысячи лет и накапливать мудрость.
• Возникнут этические вопросы о генетическом «выключении» жадности, лжи и агрессии.
• Выбор между реальным и виртуальным мирами станет более сложным.
• Интеллектуальный взрыв после появления общего искусственного интеллекта (AGI) может привести к непредсказуемым последствиям.
• Главная задача - поиск баланса между безопасностью AGI и движением вперед в развитии ИИ.

https://www.youtube.com/watch?v=8qTZLqY-cnI

Но даже оптимистический сценарий несёт огромный риск — потерю смысла. Когда исчезает необходимость бороться за выживание, а знания можно загружать напрямую в мозг, труд и успех обесцениваются. Обществу придётся экстренно перестраивать культуру, учиться жить в условиях бесконечного досуга и искать новые ориентиры в мире, где бороться больше не за что. Изменение рынка труда неизбежно потребует полной реформы образования. Модель индустриальной эпохи, готовившая дисциплинированные «винтики» для работы в организациях, окончательно устареет, а дипломы обесценятся. Появятся миллионы образованных, но ничем не занятых молодых людей, способных стать мощной политической силой. Новая система обучения, считает Бостром, должна готовить людей не к выполнению инструкций, а к искусству жить: искать смысл, заниматься творчеством, спортом, дружбой и развивать критическое мышление. Глубокая трансформация затронет биологическую и моральную природу человека. Наша нынешняя биология станет «бутылочным горлышком», поэтому людям придется меняться через генетику или загрузку сознания, чтобы успевать за ИИ. Победа над старением даст возможность жить тысячи лет и накапливать мудрость веками.