• Языковые модели страдают от галлюцинаций, выдавая ложную или бессмысленную информацию.
• Галлюцинации в ИИ являются фундаментальной особенностью работы нейросетей.
• Исследователи используют математическую теорию для доказательства неизбежности галлюцинаций в больших языковых моделях.
• Галлюцинации не являются признаком несовершенства технологии, а являются основополагающим принципом работы ИИ.
• Вместо попыток сделать ИИ безупречным, следует принять его недостатки и сосредоточиться на управлении ими.
• Исследование поднимает важные вопросы о том, как оценивать и уменьшать реальное влияние галлюцинаций, а также о том, как должны измениться нормативные акты и этические стандарты для учета изъянов ИИ.