• Ник Бостром - шведский философ и мыслитель в области рисков ИИ, будущего человечества и трансгуманизма.
• Автор «аргумента симуляции», согласно которому мы можем находиться внутри симулированного мира.
• Книги Бострома: «Сверхинтеллект», «Антропная предвзятость» и «Глубокая утопия».
• ИИ может стать угрозой, если вырвется из‑под контроля.
• Цель - создание безопасных ИИ‑систем, которые останутся безопасными даже при выходе из‑под контроля.
• ИИ может стать великолепным в комедии, но сейчас слаб в этой области.
• В книге «Глубокая Утопия» Бостром исследует положительные эффекты ИИ для человечества.
• ИИ может стать оружием, худший сценарий - создание оружия массового поражения.
• Регулирование синтезаторов ДНК и других ключевых материалов может помочь предотвратить худшие сценарии.
• Бостром считает, что развитие Суперинтеллекта может стать прекрасным событием, хотя сопряжено с некоторыми рисками.