Исследователи заявили, что поисковая система на базе ChatGPT предоставляет частично или полностью недостоверную информацию на большинство их запросов. Так, в 153 запросах, в которых авторы исследования просили найти источники цитат, ChatGPT выдал неверные ответы. В семи из них система добавила в сообщения немного неуверенности словами «возможно», «выглядит, что», «может быть» или «я не могу найти конкретный источник».
В рамках эксперимента исследователи просили ChatGPT идентифицировать 200 цитат из 20 источников, 40 из них размещались на ресурсах, закрывших доступ к своим данным от краулеров искусственного интеллекта. Тем не менее поисковый алгоритм предоставлял информацию как достоверную.
Даже в случае сканирования ресурсов, которые открыли доступ для ChatGPT, алгоритм все равно предоставлял ошибочные данные. ChatGPT, как выяснили исследователи, может приписывать слова одного источника другому, ссылаясь на скопированные из оригинала, но не указывая на это.
Читайте также:
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
