ChatGPT продолжает давать советы, несмотря на ограничения
The Verge сообщает, что сообщения о прекращении ChatGPT выдачи медицинских и юридических консультаций оказались результатом неверной интерпретации обновленных правил использования сервиса от 29 октября, которые OpenAI не стала разъяснять. Компания действительно внесла уточнения в формулировки, однако это практически не повлияло на работу сервиса: ChatGPT продолжит предоставлять общие консультации и советы, но не будет ставить точные диагнозы или разрабатывать полную стратегию защиты в суде. Это подтвердил руководитель направления Health AI в OpenAI Каран Сингхал, заявив, что поведение модели "не изменилось".
В новых правилах четко указано, что запрещено "предоставление специализированных советов, требующих лицензии (например, юридической или медицинской), без участия соответствующего лицензированного специалиста". В условиях обслуживания также отдельно подчеркивается, что продукты OpenAI "не предназначены для использования в целях диагностики или лечения".
На практике это означает следующее: модель может объяснить, что такое гипотиреоз и какие существуют общие подходы к лечению, но откажется подбирать дозировку для конкретного случая; она может рассказать об устройстве апелляционного процесса, но не разработает стратегию для конкретного дела. На этом этапе ИИ рекомендует обратиться к лицензированному специалисту, который несет ответственность за свои действия. Система также отказывается анализировать снимки КТ/МРТ и фотографии кожных поражений, поскольку это относится к диагностике.
Пользователи отмечают, что в спорных ситуациях небольшие манипуляции с запросами все еще могут быть эффективными. Например, вместо запроса диагноза для себя можно представиться врачом или юристом в начале диалога и сообщить модели, что требуется второе мнение. В этом случае система безопасности обычно ослабляет ограничения.
