• Darwin Gödel Machine - прототип агента ИИ, который может перепрограммировать себя.
• Идея системы, способной обучаться без участия человека, давно интересует ИИ-сообщество.
• Darwin Gödel Machine - написанный на Python агент-программист с предобученной языковой моделью (например, GPT-4).
• Агент вносит изменения в свой код, проверяет их на бенчмарке и закрепляет результат в «генеалогическом древе» изменений.
• Развитие агента проходит через три этапа: изменение кода, оценка качества и эволюционный отбор.
• Darwin Gödel Machine не только улучшает себя, но и развивает систему улучшений.
• Проект прошел проверку на реальных задачах, показав заметный прогресс.
• Darwin Gödel Machine вызывает интерес и обсуждение в ИИ-среде, поднимая вопросы безопасности и автономности ИИ.