• Российские ученые разработали метод для повышения надежности нейросетей в задачах с высоким уровнем риска.
• Метод использует специальный набор тренировочных данных (Confidence-Aware Training Data).
• Современные нейросети часто проявляют избыточную уверенность в предсказаниях, что может быть критичным в медицине и промышленности.
• Новый подход позволяет нейросети обнаруживать случаи, требующие дополнительной проверки со стороны человека.
• Технология протестирована на реальных данных, включая медицинскую диагностику по типированию крови.
• Метод учитывает два типа неопределенности: эпистемическую и алеаторную.
• Новая технология может быть применена в ответственных областях, где важна надежность искусственного интеллекта.

«Мы сфокусировались на том, чтобы научить модель не только принимать решения, но и выделять случаи, в которых риск ошибки особенно высок. Благодаря использованию разметки уверенности, наше решение существенно превосходит существующие. Такая оценка „осторожности“ критически важна для принятия решений в медицине и других областях с высокой стоимостью ошибки», — комментирует Алексей Зайцев, доцент Сколтеха, заведующий Лабораторией прикладных исследований «Сколтех-Сбербанк».