«Алиса» не идеальна: Яндекс признал наличие «галлюцинаций» у ИИ
Руководитель бизнес‑группы поисковых сервисов и искусственного интеллекта «Яндекса» Дмитрий Масюк сообщил РБК, что работа над устранением неточностей в ответах ИИ-ассистента «Алиса» ведется постоянно, однако полностью исключить так называемые «галлюцинации» невозможно.
Основные тезисы выступления Масюка:
Несмотря на прогресс, нейросети все еще могут выдавать неточные ответы, но их количество значительно сокращается с каждым годом.
Полное отсутствие ошибок в ответах ИИ недостижимо.
«Алиса» стремится предоставлять информацию, основанную на существующих источниках, а не на вымыслах.
Для улучшения качества ответов используются методы дообучения, которые «наказывают» нейросеть за неточности и стимулируют ее опираться на проверенные данные.
Обучение ИИ-ассистента состоит из трех этапов:
Первый этап – обработка огромного объема данных из интернета (десятки терабайт), очищенных от нерелевантной информации.
Второй этап – обучение на основе сотен тысяч вопросов и ответов, подготовленных редакторами, что позволяет нейросети усвоить нормы общения и понимания контекста.
Третий этап – оценка ответов основной нейросети отдельной «нейросетью-судьей», которая корректирует ее работу.
Согласно данным «Яндекса», пользователи пока не проявляют особой чувствительности к неточностям в работе ИИ.
Пользователи ожидают от ИИ-ассистента как фактической точности, так и способности к живому, творческому общению.
Ранее Виталий Данилкин, руководитель продукта «Алиса AI» в «Яндексе», отмечал, что ощущение «торможения» в работе «Алисы» связано с растущими ожиданиями пользователей. Компания зафиксировала увеличение жалоб на работу ассистента, но исследования показали, что сама технология не ухудшилась, а восприятие пользователей изменилось.
