- Системы распознавания лиц используются в различных сферах, от валидации возраста до наблюдения и оплаты.
- Технологические аспекты распознавания лиц развиваются, от простых алгоритмов до машинного обучения.
- В статье рассматриваются этические аспекты поиска по лицам и возможные атаки на системы распознавания лиц.
- Активационные патчи - информационные возмущения, позволяющие идентифицировать алгоритмы машинного обучения в системах распознавания лиц.
- В статье представлены результаты создания активационных патчей для популярных алгоритмов обнаружения лиц.
- Тестирование патчей показало, что они не всегда позволяют определить используемые алгоритмы и модели.
- Разработанные патчи могут быть использованы для исследовательских и практических целей.
- В статье обсуждаются способы защиты от подобных атак и этический подход к разработке систем распознавания лиц.
- Пересказана только часть статьи. Для продолжения перейдите к чтению оригинала.
Ваше лицо кажется знакомым: разведка, анализ и методы атак на ML в системах распознавания лиц
22 авг 2024
Краткий пересказ
от нейросети YandexGPT
Источник:
habr.com
Обложка: Изображение с сайта habr.com