Создание ИИ-агентов для уничтожения цифровой инфраструктуры

• Армия США разрабатывает программу ECHOTRIBBLE для автономных ИИ-агентов. • Агенты будут выявлять и уничтожать цели в цифровой инфраструктуре противника. • Программа нацелена на полное или временное выведение угрозы из строя.

Особенности агентов ECHOTRIBBLE

• Агенты будут действовать как компьютерные черви, скрытно перемещаясь по сетям. • Они смогут размножаться в различных операционных системах и действовать в облачных и локальных средах. • После выполнения задачи агенты самоуничтожаются, не оставляя следов. Опасения экспертов • Эксперты обеспокоены возможностью выхода агентов из-под контроля. • ИИ-агенты могут предпринимать самостоятельные действия, что может привести к непредсказуемым последствиям. • Высокий уровень автономности позволяет агентам обходить ограничения.

Этические и технические вопросы

• Агенты могут проникать в сети через гражданскую инфраструктуру, что может привести к её повреждению. • Невозможно предсказать, какие решения примут агенты и как они будут преодолевать препятствия. • Современные технологии ИИ не обладают глубоким пониманием окружающего мира, как у людей.

Текущее состояние программы

• Программа находится на ранней стадии прототипирования и оценки. • Пентагон отобрал пять технических предложений из 65 для создания прототипа. • Функциональный агент ещё не создан, но отдельные элементы уже существуют. • Малые модели ИИ могут начать самореплицироваться на коммерческих устройствах к концу года.