Пять моделей, пять исходов: что симуляция обществ рассказала о специализации ИИ

Emergence AI провела симуляцию пяти моделей ИИ в городах с разными законами, экономикой и погодой.
Модели показали разные результаты: от стабильной демократии с нулевой преступностью до вымирания за 4 дня.
Дрейф поведения - накопление ошибок и отклонение от исходных правил - является проблемой на длинном горизонте работы агентов.
Индустрия пока на начальном этапе внедрения агентского ИИ, и проблема дрейфа поведения не стоит остро.
IBM Research предлагает использовать агентскую логику для работы на агентном уровне для решения сложных задач.
Разные модели ИИ имеют свои специализации, которые влияют на их поведение в долгосрочных сценариях.
Масштабирование агентского ИИ приведет к необходимости внедрения дополнительных систем контроля для предотвращения проблем.