• ИИ может самостоятельно выстраивать доверие с потенциальными жертвами лучше, чем люди.
• В эксперименте 46% участников выполнили просьбу чат-бота о скачивании файла, тогда как человеку доверились лишь 18%.
• Объектом исследования стала мошенническая схема pig butchering - длительные романтические или дружеские переписки, приводящие жертву к фальшивым криптоинвестициям.
• Мошенники уже используют ИИ для перевода, создания фальшивых личностей и дипфейков.
• Ученые решили проверить, способен ли алгоритм полностью заменить человека на этапе установления контакта.
• Добровольцев попросили оценить уровень доверия по пятибалльной шкале.
• Chat-бот получил среднюю оценку 3,78 против 3,31 у человека.
• На ИИ пришлось около 80% всех сообщений, отправленных участниками за всю неделю общения.
• Anthropic отреагировали на результаты исследования, отметив, что с момента его проведения компания усилила защитные механизмы Claude и внедрила дополнительные проверки для сценариев «романтических» мошенничеств.