ИИ научился завоёвывать доверие жертв эффективнее мошенников-людей

ИИ может самостоятельно выстраивать доверие с потенциальными жертвами лучше, чем люди.
В эксперименте 46% участников выполнили просьбу чат-бота о скачивании файла, тогда как человеку доверились лишь 18%.
Объектом исследования стала мошенническая схема pig butchering - длительные романтические или дружеские переписки, приводящие жертву к фальшивым криптоинвестициям.
Мошенники уже используют ИИ для перевода, создания фальшивых личностей и дипфейков.
Ученые решили проверить, способен ли алгоритм полностью заменить человека на этапе установления контакта.
Добровольцев попросили оценить уровень доверия по пятибалльной шкале.
Chat-бот получил среднюю оценку 3,78 против 3,31 у человека.
На ИИ пришлось около 80% всех сообщений, отправленных участниками за всю неделю общения.
Anthropic отреагировали на результаты исследования, отметив, что с момента его проведения компания усилила защитные механизмы Claude и внедрила дополнительные проверки для сценариев «романтических» мошенничеств.