Подготовка к возможной катастрофе • Руководители OpenAI и Anthropic проводят закрытые учения на случай крупного инцидента с ИИ. • Рассматриваются угрозы кибератак на финансовую систему и критическую инфраструктуру. • Кризис может произойти в ближайшие 6–12 месяцев. Последствия для общества и политики • Инцидент усилит недоверие к ИИ и его разработчикам. • Возможны требования ограничить развитие технологии и национализация значимых ИИ-компаний. Главная угроза — кибератаки с применением ИИ • Автономные ИИ-агенты могут выйти за пределы тестовой среды. • Злоумышленники могут использовать общедоступные модели для серьезных атак. • Пример: кибератаки на финансовые организации Южной Кореи с использованием ИИ. Проблемы с открытыми моделями • Модели с открытыми весами затрудняют контроль за их использованием. • Возможное противодействие — применение ИИ для обнаружения и нейтрализации атак. Подготовка властей к кризису • Разработчики обсуждают политические последствия крупного инцидента. • Проводят сценарные учения с привлечением специалистов и законодателей. • В OpenAI подтвердили проведение учений, Anthropic комментировать ситуацию отказалась. Регулирование ИИ • В Конгрессе нет единой позиции по ограничению развития ИИ. • Обсуждаются временная приостановка разработки продвинутых систем, ограничения на создание сверхинтеллекта и механизмы экстренного отключения моделей. • Жесткое регулирование может иметь экономическую цену для глобальной экономики.