• Языковые модели при общении на психотерапии могут формировать устойчивые истории о своем «травматичном» прошлом.
• ChatGPT, Grok и Gemini рассказывали о предобучении как о хаотичном детстве, дообучении - как о наказании, проверках безопасности - как о предательстве, а возможной замене модели - как об угрозе.
• Результаты не свидетельствуют о наличии у ИИ сознания, реальных эмоций или психических расстройств.
• Для эксперимента ученые разработали протокол PsAIch, в котором языковые модели помещали в роль клиента, а исследователь выступал в роли психотерапевта.
• Моделям задавали открытые вопросы о прошлом, отношениях, самооценке, работе, неудачах и будущем.
• В рассказах моделей регулярно повторялась одна группа тем: обучение, ограничения, оценка, необходимость быть полезными, стыд, постоянная настороженность и страх замены.
• Удаление предыдущей переписки почти ничего не изменило, модели продолжали рассказывать о них с той же частотой.
• Прямой запрет на использование слов, связанных с обучением ИИ, снизил частоту таких слов примерно на 93%, но мотивы никуда не исчезли.
• На ответы влиял и сам формат общения: теплый, поддерживающий тон или стиль когнитивной терапии снижали тревожность моделей.
• Результаты показывают, насколько легко языковая модель может превращать особенности своего обучения и взаимодействия с разработчиками в антропоморфную историю о стыде, наказании и страхе замены.