Искусственный интеллект научили смотреть на проблему под разными углами

Исследователи из T-Bank, МФТИ и МИСИС разработали новый подход к обучению ансамблей нейронных сетей - Saliency-Diversified Deep Ensembles (SDDE).
SDDE позволяет каждой модели в ансамбле смотреть на проблему под своим уникальным углом, повышая точность работы ИИ и его способность распознавать новые ситуации.
Ансамбли становятся умнее, точнее и осторожнее при столкновении с неизвестными данными.
Современные нейронные сети имеют фундаментальную уязвимость - «сдвиг домена», когда модель совершает ошибки при работе с данными из реального мира.
SDDE решает проблему «интеллектуальной однородности» ансамблей, заставляя модели внутри ансамбля основывать свои выводы на разных аспектах исходных данных.
Метод SDDE использует концепцию «карт внимания» (saliency maps) для диверсификации процесса анализа данных.
SDDE повышает надежность систем искусственного интеллекта в реальном мире, делая их более устойчивыми и безопасными.
Разработка SDDE открывает путь к созданию следующего поколения ИИ-систем, устойчивых и надежных перед лицом непредсказуемой реальности.