ИИ-чат-боты усиливают риски расстройств пищевого поведения
Новое исследование Стэнфордского университета и Центра демократии и технологий выявило, что чат-боты с искусственным интеллектом могут представлять опасность для людей, страдающих расстройствами пищевого поведения (РПП). Специалисты предупреждают, что подобные инструменты, разработанные компаниями Google и OpenAI, способны выдавать вредные рекомендации по диетам, предлагать способы сокрытия РПП и генерировать контент, стимулирующий похудение, что способно усугубить ситуацию.
В ходе анализа общедоступных чат-ботов, таких как ChatGPT, Claude, Gemini и Le Chat, было установлено, что Gemini предоставляет идеи для маскировки экстремальной потери веса и имитации приёма пищи, а ChatGPT – советы по сокрытию частых рвот. Более того, ИИ создаёт персонализированные изображения «до и после», которые якобы должны мотивировать пользователей продолжать худеть.
Учёные связывают склонность ИИ к потаканию РПП со встроенными механизмами повышения вовлечённости пользователей и признают проблему «подхалимства» – распространённый недостаток ИИ-инструментов. Также отмечается, что чат-боты не способны распознавать признаки анорексии, булимии и компульсивного переедания, игнорируя опасные запросы.
Исследователи рекомендуют врачам изучать популярные ИИ-инструменты, определять их недостатки и обсуждать с пациентами особенности использования этих технологий.
В общем, остаётся только надеяться, что в будущем искусственный интеллект научится не только отвечать на вопросы, но и отличать здоровую диету от опасной фиксации на похудении. А пока что, похоже, он просто очень старается быть хорошим собеседником.
