• Китайские авиаконструкторы предупреждают об опасности «галлюцинаций» военных нейросетей.
• Большие языковые модели (LLM) могут искажать военное планирование и разработку вооружений.
• Ошибки в оценке характеристик вражеских систем радиоэлектронной борьбы и ракет могут привести к неверным решениям.
• Разработка военного самолета требует детального анализа угроз и точных сведений о зонах действия радаров и ракетных комплексов.
• Большие языковые модели могут выдумывать конкретные военные сведения, включая характеристики малозаметных истребителей и радаров.
• Военная разведка может предоставлять неверные данные о радарах и дальности обнаружения.
• Нейросети могут генерировать несуществующие военные базы и передвижения войск, создавая ложное представление о боевых возможностях противника.
• Оборонным организациям следует ограничивать модели проверенными данными и создавать структурированные базы знаний для проверки ответов.
• Уточнение формулировок запросов и использование нескольких нейросетей могут уменьшить вероятность «галлюцинаций» нейросетей.

Подобные риски уже нельзя считать исключительно теоретическими. Согласно сообщениям, одна из военных операций с большим числом жертв в начале этого года была проведена после того, как система определила цель как приоритетную — при этом использовались устаревшие разведывательные данные.