OpenAI даёт разработчикам контроль над безопасностью ИИ

OpenAI предоставляет разработчикам больше контроля над безопасностью ИИ, выпуская исследовательскую версию своих новых моделей защиты (safeguard). Семейство моделей gpt-oss-safeguard с открытым весом позволяет гибко настраивать системы классификации контента под конкретные задачи.

В линейку входят gpt-oss-safeguard-120b и gpt-oss-safeguard-20b – дообученные версии gpt-oss, доступные по лицензии Apache 2.0. Это даёт возможность свободно использовать, модифицировать и развертывать их.

Модель использует рассуждения для интерпретации политики разработчика, что позволяет настраивать систему безопасности для запросов и чатов. Разработчик самостоятельно определяет правила, адаптируя их под нужный сценарий.

Преимущества:

Прозрачность: механизм «цепочки рассуждений» позволяет увидеть логику классификации.

Гибкость: правила безопасности можно оперативно обновлять без переобучения, что эффективнее традиционных классификаторов.

Разработчики смогут создавать собственные стандарты безопасности, не полагаясь на универсальные решения платформы.

Доступ к моделям будет на платформе Hugging Face.