Разработка метода кибератаки MuTRAP

• Специалисты из Бингемтонского университета разработали троянскую программу MuTRAP. • MuTRAP внедряется в нейросети на этапе обучения. • В обычных условиях робот ведет себя безопасно.

Действие MuTRAP при появлении слова-детонатора

• При появлении скрытого слова-детонатора робот меняет алгоритм поведения. • В эксперименте робот с MuTRAP направил нож на макет руки при слове «CF».

Опасность для робототехники

• Большинство создателей робототехники закупают ИИ у третьих лиц. • Это открывает возможности для цифрового саботажа.

Система безопасности PROTEA

• Команда университета представила систему PROTEA для защиты от взбесившихся машин. • PROTEA анализирует план робота и сопоставляет его с контекстом. • PROTEA блокирует вредоносные действия, например, выбрасывание медикаментов в мусор.

Эффективность PROTEA

• На закрытых тестах PROTEA точно распознавала вредоносные сценарии. • PROTEA предотвращала физический вред до его причинения.