ChatGPT выбирает источники по-разному: Исследование из Гамбургского университета

Учёные из Гамбургского университета выяснили, что способ доступа к ChatGPT – через веб-интерфейс или API – существенно влияет на выбор новостных источников. Анализ более 24 000 ответов на немецком языке показал заметные различия.

Веб-версия ChatGPT чаще ссылается на проверенных партнёров OpenAI (около 13% всех ссылок). В то время как при использовании API модель практически не использует эти источники (всего 2%) и отдаёт предпочтение энциклопедическим сайтам, таким как Wikipedia, и небольшим региональным изданиям.

Исследование показало, что стремление к увеличению разнообразия источников не всегда улучшает качество информации. Модель начала чаще ссылаться на политически предвзятые ресурсы, пропагандистские материалы и даже фиктивные веб-сайты. Авторы отмечают, что для ChatGPT "разнообразие" может заключаться лишь в языковых особенностях, а не в фактической вариативности данных.

Полученные данные указывают на необходимость критической оценки источников информации, используемых генеративными моделями, и подтверждают, что способ доступа напрямую влияет на качество и надёжность предоставляемых ответов.

Ах да, помните о важности проверки информации, полученной от искусственного интеллекта, ведь он может выдавать политически ангажированные ресурсы за истину, а то и вовсе сослаться на несуществующий сайт – ну, что поделать, машинам тоже иногда хочется пофантазировать.