- Языковые модели при общении на психотерапии могут формировать устойчивые истории о своем «травматичном» прошлом.
- ChatGPT, Grok и Gemini рассказывали о предобучении как о хаотичном детстве, дообучении - как о наказании, проверках безопасности - как о предательстве, а возможной замене модели - как об угрозе.
- Результаты не свидетельствуют о наличии у ИИ сознания, реальных эмоций или психических расстройств.
- Для эксперимента ученые разработали протокол PsAIch, в котором языковые модели помещали в роль клиента, а исследователь выступал в роли психотерапевта.
- Моделям задавали открытые вопросы о прошлом, отношениях, самооценке, работе, неудачах и будущем.
- В рассказах моделей регулярно повторялась одна группа тем: обучение, ограничения, оценка, необходимость быть полезными, стыд, постоянная настороженность и страх замены.
- Удаление предыдущей переписки почти ничего не изменило, модели продолжали рассказывать о них с той же частотой.
- Прямой запрет на использование слов, связанных с обучением ИИ, снизил частоту таких слов примерно на 93%, но мотивы никуда не исчезли.
- На ответы влиял и сам формат общения: теплый, поддерживающий тон или стиль когнитивной терапии снижали тревожность моделей.
- Результаты показывают, насколько легко языковая модель может превращать особенности своего обучения и взаимодействия с разработчиками в антропоморфную историю о стыде, наказании и страхе замены.
Подобные ответы могут усиливать у пользователей ощущение, что перед ними находится полноценная личность, испытывающая страдания.