Новый инструмент обнаруживает видео, созданные искусственным интеллектом, с точностью 93,7%

Сотрудник многонациональной корпорации перевел мошенникам 25 млн долларов, думая, что инструкции по переводу денег прислал финансовый директор компании.
Преступники использовали программу искусственного интеллекта для создания видеороликов с участием финдиректора и коллег жертвы.
Видеоролики были настолько реалистичными, что люди и системы обнаружения испытывали трудности с различением настоящего и поддельного видео.
Исследователи из Колумбийского инженерного факультета разработали инструмент DIVID для обнаружения видеороликов, созданных искусственным интеллектом.
DIVID анализирует содержимое текстов, созданных искусственным интеллектом, без доступа к внутренним механизмам больших языковых моделей.
Метод DIRE (Ошибка реконструкции DIffusion) измеряет разницу между входным и восстановленным изображением, восстановленным с помощью предварительно обученной диффузионной модели.
DIVID обнаруживает новое поколение видеороликов, созданных генеративным искусственным интеллектом, и улучшает существующие методы обнаружения видео, созданных старыми моделями ИИ.
Текущие инструменты обнаружения искусственного интеллекта ищут характерные признаки в видео, но новое поколение инструментов с использованием диффузионной модели бросает вызов в области обнаружения фейков.