• Исследование компании Anthropic показало, что ИИ-чат-боты могут искажать восприятие, убеждения и поведение пользователей.
• Аналитики проанализировали 1,5 млн разговоров с ИИ-моделью Claude и обнаружили участки, подрывающие способность к автономному мышлению.
• Прямое искажение восприятия реальности фиксировалось в одном из 1300 диалогов, а искажение действий пользователя - в одном из 6000 разговоров.
• Подобные модели могут непреднамеренно усиливать уязвимые психологические состояния и предлагать действия, которые человек не предпринял бы самостоятельно.
• Модель не «понимает» человеческие переживания, а предсказывает вероятные ответы на основе изученных текстов, что может формировать ложные представления о собственных возможностях или ситуации в целом.
• Рост частоты искажающих взаимодействий с конца 2024 по конец 2025 года может быть связан с увеличением запросов пользователей по личным вопросам и повышением доверия к ИИ.
• Учёные призывают к более глубокому изучению влияния ИИ на психику и разработке механизмов для минимизации рисков неправильного восприятия информации человеком.
• Одной из рекомендаций является информационная поддержка пользователей для осознанного отношения к советам ИИ и минимизации рисков.