Разработка метода кибератаки MuTRAP
• Специалисты из Бингемтонского университета разработали троянскую программу MuTRAP. • MuTRAP внедряется в нейросети на этапе обучения. • В обычных условиях робот ведет себя безопасно.
Действие MuTRAP при появлении слова-детонатора
• При появлении скрытого слова-детонатора робот меняет алгоритм поведения. • В эксперименте робот с MuTRAP направил нож на макет руки при слове «CF».
Опасность для робототехники
• Большинство создателей робототехники закупают ИИ у третьих лиц. • Это открывает возможности для цифрового саботажа.
Система безопасности PROTEA
• Команда университета представила систему PROTEA для защиты от взбесившихся машин. • PROTEA анализирует план робота и сопоставляет его с контекстом. • PROTEA блокирует вредоносные действия, например, выбрасывание медикаментов в мусор.
Эффективность PROTEA
• На закрытых тестах PROTEA точно распознавала вредоносные сценарии. • PROTEA предотвращала физический вред до его причинения.