GPT-5: ChatGPT стал осторожнее в разговорах о психологии
OpenAI обновила модель GPT-5 в ChatGPT, улучшив её способность реагировать на сложные и потенциально опасные разговоры. Новая версия лучше распознает признаки психологического дистресса у пользователя, включая проявления психоза и эмоциональной зависимости от чат-бота. Модель стала более сдержанной, избегает поддержки бредовых идей и направляет пользователя к реальной помощи – друзьям, врачам или специализированным службам.
Для обеспечения безопасности OpenAI разработала подробные инструкции для работы с чувствительными темами, определяющие границы дозволенного в ответах модели. В разработке этих инструкций приняли участие около 300 психиатров, психологов и врачей из 60 стран, многие из которых непосредственно участвовали в оценке поведения модели и анализе рискованных ситуаций.
Особое внимание уделено предотвращению эмоциональной зависимости от ChatGPT. Модель теперь распознает тревожные сигналы, такие как утверждения о том, что ИИ – единственный, кто понимает пользователя, и мягко направляет его к общению с реальными людьми. По данным OpenAI, количество нежелательных ответов в этой категории снизилось на 42% по сравнению с GPT-4o, а новая версия GPT-5 успешно справляется с трудными диалогами в 97% случаев (ранее этот показатель составлял 50%).
Глава OpenAI Сэм Альтман выразил удовлетворение улучшениями и анонсировал скорое возвращение GPT-5 к более естественному стилю общения, характерному для GPT-4o. В конце года в ChatGPT будет добавлена верификация возраста для доступа к контенту для взрослых.
