Искусственный интеллект обретает здравомыслие: новый метод заставил нейросети сомневаться в своих ответах

Новый метод повышает надежность нейронных сетей, обучая их распознавать объекты и ситуации, с которыми они не сталкивались.
Метод Identity Curvature Laplace Approximation (ICLA) позволяет искусственному интеллекту точнее оценивать собственную неуверенность.
ICLA критически важна для создания безопасных систем в беспилотных транспортных средствах, медицинской диагностике и финансовом мониторинге.
Современные глубокие нейронные сети демонстрируют поразительные способности, но могут быть излишне самоуверенными.
Проблема распознавания вне распределенных данных (out-of-distribution, OOD) является одной из самых актуальных в области безопасности искусственного интеллекта.
Байесовские методы и аппроксимация Лапласа являются классическими подходами к оценке неопределенности в искусственном интеллекте.
Российские исследователи обнаружили парадокс: на задачах с легко различимыми классами данных ландшафт решений нейросети становится чрезвычайно острым.
Стандартный подход, основанный на измерении кривизны, дает сбой, и модель теряет способность распознавать новое.
Вместо сложной формы ландшафта исследователи заменили его на идеальную, симметричную сферу, описываемую единичной матрицей.
ICLA значительно превосходит традиционную аппроксимацию Лапласа и другие популярные методы в задаче обнаружения вне распределенных данных.