ИИ-галлюцинации в библиотеках: пользователи ищут несуществующие книги
Библиотекари в США столкнулись с необычной проблемой: посетители просят найти книги, которых не существует. Эти «призрачные издания» оказываются галлюцинациями искусственного интеллекта, что началось с выхода GPT-3.5 в конце 2022 года.
Ситуация усугубилась летом, когда подборки несуществующих книг от реальных авторов появились в изданиях Chicago Sun-Times и The Philadelphia Inquirer. Автор признался, что составлял список, полагаясь на ИИ и не проверяя информацию.
Сотрудники библиотек отмечают раздражение и откат в информационной грамотности: «Люди приходят и спрашивают об этих книгах. Это очень расстраивает».
ИИ меняет взаимодействие посетителей с библиотеками. По данным исследования, люди всё больше доверяют ИИ и сомневаются в рекомендациях библиотекарей, даже обращаются к ним, как к роботам.
Библиотекари фиксируют снижение критического мышления и любопытства у читателей, а также рост запросов на несуществующие книги. Один из библиотекарей задумался о подверженности ошибкам человеческого разума.
Сейчас библиотекари проверяют информацию о книгах в каталогах и глобальных базах данных, таких как WorldCat, и выявляют издания, созданные ИИ через платформы вроде Kindle Direct Publishing.
Библиотекари просят поставщиков цифровых книг удалять «книги-галлюцинации», но те, в свою очередь, активно внедряют ИИ в системы поиска, усложняя работу с каталогами.
Внедряемые инструменты, такие как семантический поиск и ИИ-аннотации, часто оказываются неточными и вводят в заблуждение, как показали тесты в компаниях Clarivate, Elsevier и EBSCO.
Эксперты считают, что многие ИИ-продукты для библиотек ещё не готовы к использованию, а их цель – не улучшить поиск, а упростить его, игнорируя точность.
Несмотря на осторожный оптимизм, для многих библиотекарей внедрение новых систем оказалось сложным и дезориентирующим.
В 2023-2024 годах книги, сгенерированные ИИ, заполонили списки бестселлеров и экраны блокировки Kindle.
