• Исследователи из Королевского колледжа Лондона провели эксперимент с тремя коммерческими моделями ИИ.
• Модели играли роли лидеров стран в холодной войне, не получая указаний на эскалацию конфликта.
• Ни одна модель не решила сдаться или идти на уступки.
• Использованные модели имели встроенные правила безопасности, но не контролировали путь к опасным результатам.
• Проблема отсутствия контроля над траекторией развития ИИ актуальна не только в военных симуляторах.
• Действующие правила безопасности для моделей ИИ регулируют отдельные действия, но не контролируют путь к конечным точкам.
• Риски, связанные с неконтролируемыми путями, умножаются по мере внедрения автономных систем с меньшим контролем со стороны человека.
• В настоящее время нет решения проблемы контроля над траекторией развития ИИ.