ИИ Reddit выдает опасные советы по медицине
Модератор сабреддита «Семейная медицина» выразил обеспокоенность работой функции «Ответы Reddit», основанной на искусственном интеллекте. Было отмечено, что система выдает нерелевантные ответы и распространяет опасную дезинформацию, при этом модераторы не имеют возможности её отключить.
Модераторы сабреддита подчеркивают, что, если бы у них была возможность, они бы немедленно отключили эту функцию, и призывают пользователей игнорировать информацию, полученную через «Ответы Reddit».
Медицинский работник поделился опытом тестирования: система предложила прекратить прием назначенных лекарств и перейти на высокие дозы кратома и даже героина, представляя это как способы лечения хронической боли. Это вызвало серьезные опасения из-за высокой опасности и нелегальности этих веществ.
Специалист призвал к отключению функции ИИ-ответов в разделах, посвященных медицине и психическому здоровью, или хотя бы предоставить модераторам возможность отказаться от её использования, а также усилить фильтры для запросов со здоровьем.
Представитель Reddit сообщил о внесении изменений и обещании дальнейшей корректировки системы, основываясь на отзывах.
В сабреддите «Семейная медицина» размещено предупреждение для пользователей о необходимости избегать использования «Ответов Reddit».
Ранее модераторы сообщества, посвященного ИИ, сообщали о случаях, когда пользователи ChatGPT, полагая себя богоподобными, распространяли бредовые идеи.
