Sora 2 от OpenAI: проблемы с фильтрацией контента
Новая видеомодель Sora 2 от OpenAI, представленная неделю назад, столкнулась с первыми проблемами в работе систем фильтрации контента (guardrails).
Пользователи обнаружили, что модель иногда пропускает нежелательный контент, но при этом блокирует вполне безобидные запросы. Это ставит под вопрос готовность Sora 2 к коммерческому запуску, запланированному на конец октября.
В OpenAI объяснили сбой непредвиденными взаимодействиями между фильтрами, анализирующими текст, изображение и движение. Контроль генерации видео сложнее, чем текста или изображений, и требует более глубокого контекстного анализа.
Эксперты предупреждают, что OpenAI необходимо устранить проблемы безопасности перед выпуском Sora 2 Pro — версии для бизнеса и профессионального видеопроизводства. Ошибки могут привести к значительным финансовым и репутационным потерям.
Источник
