• Сотрудник многонациональной корпорации перевел мошенникам 25 млн долларов, думая, что инструкции по переводу денег прислал финансовый директор компании.
• Преступники использовали программу искусственного интеллекта для создания видеороликов с участием финдиректора и коллег жертвы.
• Видеоролики были настолько реалистичными, что люди и системы обнаружения испытывали трудности с различением настоящего и поддельного видео.
• Исследователи из Колумбийского инженерного факультета разработали инструмент DIVID для обнаружения видеороликов, созданных искусственным интеллектом.
• DIVID анализирует содержимое текстов, созданных искусственным интеллектом, без доступа к внутренним механизмам больших языковых моделей.
• Метод DIRE (Ошибка реконструкции DIffusion) измеряет разницу между входным и восстановленным изображением, восстановленным с помощью предварительно обученной диффузионной модели.
• DIVID обнаруживает новое поколение видеороликов, созданных генеративным искусственным интеллектом, и улучшает существующие методы обнаружения видео, созданных старыми моделями ИИ.
• Текущие инструменты обнаружения искусственного интеллекта ищут характерные признаки в видео, но новое поколение инструментов с использованием диффузионной модели бросает вызов в области обнаружения фейков.