Новая видеомодель Sora 2, представленная OpenAI всего неделю назад, уже столкнулась с первыми проблемами. Как сообщает 404 Media, пользователи обнаружили сбои в работе guardrails (систем, отвечающих за фильтрацию и блокировку контента).
Модель в некоторых случаях пропускает неуместные или запрещённые сцены, а в других блокирует полностью безопасные запросы. Это вызывает вопросы к готовности Sora 2 для массового коммерческого использования, особенно учитывая, что OpenAI планирует вывести модель в API уже в конце октября.
В компании подтвердили, что сбой связан с непредвиденными взаимодействиями между мультимодальными фильтрами, которые анализируют текст, изображение и движение одновременно. Контроль генерации видео гораздо более сложная задача, чем текст или изображение, и требует нового уровня контекстного анализа.
Тем временем эксперты предупреждают, что OpenAI нельзя позволить себе публичных провалов с безопасностью перед выходом Sora 2 Pro — моделью, ориентированной на бизнес и производство видео для рекламы и кино. Ошибка может дорого стоить — не только финансово, но и репутационно.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Автор: cognitronn
