Эксперты обеспокоены: ИИ может скрыть логику своих решений

Эксперты обеспокоены возможным скрытием логики решений ИИ.
Метод «цепочка мыслей» (CoT) используется в продвинутых больших языковых моделях.
CoT позволяет увидеть намерения модели нарушить правила или совершить ошибку.
Текущая степень прозрачности может измениться по мере развития моделей.
Продвинутые модели могут перестать описывать свою логику или скрыть «цепочку мыслей».
Межкорпоративный консорциум призывает разобраться в контроле над «цепочкой мыслей» и мышлением моделей.
Исследователи признают, что не знают точно, почему модели мыслят определенным образом.
Ведущие исследователи в области ИИ не до конца понимают работу своих моделей и не уверены в контроле над ними.