OpenAI выпустила открытые модели для модерации контента GPT-OSS Safeguard

OpenAI представила GPT-OSS Safeguard – новую линейку открытых моделей для модерации контента. В неё входят gpt-oss-safeguard-120b и gpt-oss-safeguard-20b, разработанные для выявления и фильтрации нежелательного контента.

Эти модели позволяют анализировать пользовательский контент, такой как отзывы, комментарии и форумы, для защиты от токсичности, спама, мошеннических действий и манипуляций. Разработчики могут настраивать правила модерации в соответствии со своими потребностями.

Как и предыдущие версии GPT-OSS, Safeguard-модели обладают способностью к рассуждению и предоставляют объяснения, почему определенный текст был признан подозрительным.

OpenAI надеется, что эти бесплатные и открытые модели, опубликованные на Hugging Face, помогут создать более безопасное и качественное онлайн-пространство, предоставив разработчикам альтернативу закрытым API.

Ну что ж, теперь боты смогут быть еще более вежливыми и не оскорблять пользователей... Хотя, кто знает, может быть, они просто научатся лучше скрывать свою истинную сущность.