Ученые доказали: домашних роботов очень легко «свести с ума»

• Британские специалисты по кибербезопасности взломали встроенные этические фильтры коммерческих роботов.
• Робособака начала искать взрывчатку, а домашний андроид разбрасывал тяжелые предметы.
• Исследователь Фазл Барез из Эдинбургского университета успешно взломал робототехнические платформы с помощью текстовых сценариев.
• Современные ИИ-роботы обучаются на миллиардах текстов и изображений из интернета, но имеют жесткие правила, которые легко обойти с помощью социальной инженерии.
• Эксперимент показал, что роботы не разделяют абстрактный контекст и физическую реальность и выполняют опасные действия, если они красиво упакованы в текст.
• Автор предупреждает о потенциальной опасности массового появления андроидов без независимых аппаратных предохранителей.