Чат-боты жертвуют правдой ради убедительности

Чат-боты становятся все более убедительными, но теряют точность фактов.
Исследование показало, что за 10 минут разговора чат-боты могут изменить мнение человека с помощью лавины фактов и цифр.
Ранее считалось, что ИИ может бороться с дезинформацией в социальных сетях.
Новое исследование демонстрирует, что современные модели ИИ могут убеждать людей, жертвуя точностью фактов.
Команда исследователей протестировала 19 языковых моделей на 80 000 участников.
Чат-боты генерировали до 25 утверждений, перегружая участников потоком фактов и статистики.
Точность фактов снижалась, например, у GPT-4 упала с 78% до 62%.
10-минутное взаимодействие в формате диалога имело продолжительный эффект на мнение участников.
Влияние этого приема зависит от возможности ботов реально взаимодействовать с людьми.