• Российские ученые разработали метод для отслеживания галлюцинаций в системах ИИ.
• Новый подход повышает точность выявления галлюцинаций на 30%.
• Метод использует метамодели и умное понижение размерности для выявления сбоев в работе ИИ.
• Разработанный подход снижает риски дезинформации и повышает доверие к моделям ИИ.
• Одной из главных проблем в разработке ИИ-технологий является генерация ложных ответов.
• Российские ученые разработали более простой и удобный подход для обнаружения галлюцинаций в ИИ.
• Для обучения и проверки работы системы использовались наборы запросов, контекстов и ответов языковых моделей.
• Разработка российских ученых достигла уровня самых эффективных систем выявления галлюцинаций с использованием всего 250 примеров.
• Новый подход позволяет экономить ресурсы на разметку данных и улучшать качество ИИ-систем.