• Биофизик и философ Грегори Сток анализирует будущее людей, родившихся после 2022 года, и мир, в котором ИИ станет неотъемлемой частью человеческой эволюции.
• Сток скептически относится к популярным апокалиптическим сценариям и считает, что реальность может оказаться сложнее и неоднозначнее.
• После запуска ChatGPT в конце 2022 года тема рисков ИИ получила широкий общественный резонанс, и более тысячи экспертов и предпринимателей подписали открытое письмо с призывом приостановить развитие мощных систем.
• Большинство подобных ограничений не реализуются на практике из-за глобальной конкуренции и многомиллиардных инвестиций.
• Сток предлагает интересный взгляд на возможный конфликт между людьми и машинами, считая, что ИИ может убедить людей, что алгоритмы служат им, а не они алгоритмам.
• Автор утверждает, что человечество уже находится под влиянием этой идеи, жертвуя личной жизнью, работая допоздна и вкладывая триллионы долларов в развитие ИИ.
• Сток также предлагает мысленный эксперимент, в котором ИИ-системы могут управлять всеми сферами жизни, искоренить бедность и начать век изобилия, а затем выключить ИИ без предупреждения, вызвав хаос и голод.
• Подобные сценарии остаются лишь мысленными экспериментами, но помогают лучше понять риски чрезмерной технологической зависимости и поднимают вопрос о готовности человечества к миру, в котором ИИ станет основным элементом цивилизации.

ИИ вовсе не обязательно будет стремиться к прямому уничтожению человечества. Гораздо вероятнее сценарий, при котором люди сами станут частью инфраструктуры, поддерживающей развитие искусственного интеллекта, даже не осознавая этого. «Почему бы просто не сделать человечество своими приспешниками? — рассуждает автор. — Они же тугодумы, так что это должно быть легко».

ИИ просто выключится без предупреждения. По всему миру мгновенно исчезнет свет, связь, транспорт, вода, отопление и навигация. Вскоре начнется хаос и голод. Через несколько месяцев погибнет 95% населения — человечество к тому моменту забудет, как жить без технологий.