«Яндекс» проверит, может ли ИИ сформировать свои убеждения

«Яндекс» и нейробиолог Константин Анохин проводят эксперимент для определения возможности ИИ сформировать собственные убеждения и осмысленную картину мира.
Первый этап эксперимента показал, что базовая языковая модель не может показать стабильные предпочтения без дополнительного обучения.
Основной этап эксперимента направлен на стимулирование модели к размышлениям и рефлексии для обучения на собственных рассуждениях.
В этом режиме ИИ будет отвечать на вопросы о «личных» предпочтениях, например, определять любимый цвет и объяснять свой выбор.
Команда предполагает, что такая работа может привести к появлению внутренней логики и структуры, напоминающей человеческие убеждения.
Обучение на собственных рассуждениях может помочь ИИ развить внутреннюю точку зрения и сформировать внутреннюю картину мира.
Эксперимент направлен на лучшее понимание принципов человеческого мышления и расширение возможностей ИИ.