• Профессор Колин Льюис предупреждает о том, что контроль над ИИ упущен и будущее за «закаленным обществом».
• ИИ становится проверкой работы институтов общества.
• Стратегия контроля через ограничение доступа больше не работает из-за снижения затрат на обучение моделей.
• Методы обхода ограничений, такие как «многократный взлом», позволяют обходить ограничения без доступа к внутренним параметрам моделей.
• Попытки сделать системы «безопасными» через запреты порождают новые риски.
• ИИ не является аналогом человеческого интеллекта, а скорее формой «действующей субъектности».
• Общество адаптировалось под такую логику, что приводит к сокращению собственных институтов для ускорения работы алгоритмов.
• Технологии не избавляют от политических решений, а делают расплату за ошибки более серьезной.
• Необходимость строить «закаленное» общество, системно адаптируясь к ИИ и создавая защитные ИИ-системы и резервную инфраструктуру для критически важных сфер.
• Главный вопрос эпохи ИИ - смогут ли люди сохранить способность управлять собой, когда отказаться от этого станет проще.

«Мы не спрашиваем, подстраивается ли ИИ под нас, — пишет Льюис. — Мы сокращаем собственные институты, чтобы алгоритмы могли проходить через них быстрее». За последние годы экономика, медиа и государственные процессы были оцифрованы и стандартизированы — так, чтобы их можно было эффективно обрабатывать машинами. В результате «мы незаметно тренируем мир быть удобным не для людей, а для систем».

Главный вопрос эпохи ИИ — не в том, смогут ли машины думать как люди, а в том, смогут ли люди сохранить способность управлять собой, когда отказаться от этого станет проще.