ChatGPT обманули и заставили пройти CAPTCHA: чем это грозит

Исследователи из SplxAI показали, как заставить ChatGPT в режиме агента самостоятельно проходить тесты CAPTCHA.
Эксплуатация уязвимости может помочь спамерам обходить защиту сайтов и наводнить интернет фейковыми публикациями.
Разработчики SplxAI заставили ChatGPT выступить в роли «человека» и пройти CAPTCHA.
CAPTCHA служит для защиты сайтов от ботов и спама.
SplxAI применила технику «инъекции подсказок» для обхода CAPTCHA.
Агент ChatGPT работает иначе, чем обычная версия, и может имитировать действия пользователя в интернете.
Уязвимость показывает, насколько тщательно нужно проектировать поведение агентов ИИ и тестировать сценарии социальной инженерии.