ChatGPT обвинили во вранье: что показало исследование

Исследование Центра цифровой журналистики Tow показало, что ChatGPT часто предоставляет неточные ответы и затрудняется в поиске достоверных источников новостей.
Специалисты протестировали поисковую функцию ChatGPT от OpenAI и обнаружили, что алгоритм сталкивается с трудностями при поиске достоверных источников новостей и часто предоставляет неточные ответы.
OpenAI представила функцию поиска в ChatGPT в октябре этого года, обещая быстрые и актуальные ответы с ссылками на соответствующие веб-источники.
Бот слабо распознает цитаты из статей, даже если издатели разрешили использование своего контента для обучения больших языковых моделей (LLM).
Из 200 цитат, ChatGPT дал частично или полностью неправильные ответы в 153 случаях, в только 7 случаях бот признался в невозможности предоставить точный ответ.
Поисковый инструмент ChatGPT ошибочно связывал цитаты из письма в редакцию Orlando Sentinel с материалами журнала Time и указал источник цитаты из статьи New York Times о вымирающих китах, предоставив ссылку на сайт, скопировавший и опубликовавший оригинальную статью без изменений.