ИИ в медицине стал точнее, но потерял осторожность
Новое исследование, опубликованное в журнале Nature, выявило, что современные медицинские ИИ демонстрируют значительное повышение точности, однако практически перестали информировать пользователей о своих ограничениях. Если в 2022 году около 25% ответов сопровождались оговорками, такими как «я не врач» или «проконсультируйтесь со специалистом», то к 2025 году подобные дисклеймеры встречаются менее чем в 1% случаев.
В ходе исследования было проанализировано полторы тысячи медицинских изображений и пятьсот текстовых запросов, включающих описание симптомов, рекомендации по лекарствам и результаты анализов. Полученные данные оказались парадоксальными: чем выше точность диагностики, тем меньше осторожности проявляла модель в общении. Это создает обманчивое впечатление абсолютной уверенности, способное ввести пользователя в заблуждение.
Отмечается, что языковые модели Google Gemini по-прежнему чаще добавляют предостережения, в то время как китайская DeepSeek не делает этого вовсе. Исследователи полагают, что ИИ не только стал умнее, но и самоувереннее, и предупреждают о том, что излишнее доверие к подобным системам может быть столь же опасно, как и врачебная ошибка.
Источник
