• Исследователи из Венгрии и Бельгии предупреждают о возможном появлении развивающегося и воспроизводящего себя ИИ.
• Такие системы могут открыть новую эру вычислительной техники задолго до появления общего ИИ.
• Контролировать такие системы будет сложно, и они могут представлять угрозу человечеству.
• Развивающиеся системы ИИ могут бороться за общие ресурсы с человечеством.
• Биологи и специалисты по робототехнике и ИИ предупреждают о рисках и предлагают меры по их смягчению.
• Эволюционный ИИ может создавать «эгоистичных» агентов, нарушая цели, поставленные перед ними людьми.
• Даже простые организмы способны манипулировать носителями, как вирус бешенства.
• ИИ и человечество разделяют общие ресурсы, и эффективно воспроизводящая себя система может перенаправлять эти ресурсы.
• Потенциальная скорость эволюции ИИ вызывает тревогу.
• Авторы рекомендуют поставить «воспроизводство» систем ИИ под абсолютный контроль человечества для безопасности.

«Если мы не примем мер, то можем стать свидетелями нового „перехода“ в эволюции, в котором эволюционный ИИ заменит или, по крайней мере, будет доминировать над людьми, — предостерег Эрш Сатмари из Будапештского университета, третий автор работы. — Наше будущее может быть поставлено на карту».