• Галлюцинации в NLP - явление, при котором генерируемый контент выглядит нелепым или неверным по отношению к исходному контенту.
• Галлюцинации в NLP делятся на два основных типа: внутренние и внешние.
• Внутренние галлюцинации относятся к выводам модели, которые противоречат предоставленному контексту.
• Внешние галлюцинации включают результаты, которые не могут быть проверены с помощью предоставленного контекста или внешних баз знаний.
• Галлюцинации фактичности включают противоречие фактам и выдумывание фактов.
• Галлюцинации верности отражают верность модели к инструкциям пользователя и контексту.
• Основные причины галлюцинаций: данные, обучение и выводы.
• Данные для обучения LLM включают данные предварительного обучения и данные согласования.
• Факторы, влияющие на возникновение галлюцинаций: дезинформация, предвзятость, границы знаний, некачественные данные дообучения.