Сверхчеловеческий ИИ на основе открытых систем: Утопия или антиутопия?

• В последние годы наблюдается значительный рост возможностей искусственного интеллекта.
• Создание открытых систем ИИ, которые постоянно самосовершенствуются, остается недостижимым.
• Открытость в ИИ-системах является важным свойством сверхчеловеческого искусственного интеллекта.
• Определение открытости через новизну и обучаемость является формальным определением.
• Человеческие наблюдатели являются важными для исследований ИИ.
• Примеры открытых систем: AlphaGo, AdA, POET.
• Основные модели обычно не являются открытыми по определению.
• Открытые основные модели могут быть улучшены с помощью обучения с подкреплением, самосовершенствования и генерации задач.
• Важно учитывать риски и безопасность при создании и использовании открытых систем ИИ.