• Ученые СПбГЭТУ «ЛЭТИ» разработали алгоритм для автоматического поиска уязвимостей в нейросетях автопилотов.
• Технология повышает безопасность управления воздушным и автомобильным транспортом.
• Алгоритм оптимизирует процесс поиска уязвимостей в моделях компьютерного зрения.
• Современные системы автопилота могут быть нарушены атаками злоумышленников, которые накладывают фильтры на изображения.
• Проверка устойчивости систем проводится вручную, что делает процесс медленным и субъективным.
• Разработана композиционная структура для поиска уязвимостей, основанная на функциях потерь, планировщиках и градиентах моделей.
• Новый подход позволяет обнаружить более скрытые способы обмана нейросетей и снизить искажения в изображениях.
• Инструмент аудита безопасности поможет разработчикам проверять модели на уязвимости перед выпуском в открытый доступ.