Sora 2 испытывает проблемы с фильтрацией контента
Новая видеомодель Sora 2, представленная OpenAI всего неделю назад, уже столкнулась с первыми проблемами. Как сообщает 404 Media, пользователи обнаружили сбои в работе guardrails (систем, отвечающих за фильтрацию и блокировку контента).
Модель в некоторых случаях пропускает неуместные или запрещённые сцены, а в других блокирует полностью безопасные запросы. Это вызывает вопросы к готовности Sora 2 для массового коммерческого использования, особенно учитывая, что OpenAI планирует вывести модель в API уже в конце октября.
В компании подтвердили, что сбой связан с непредвиденными взаимодействиями между мультимодальными фильтрами, которые анализируют текст, изображение и движение одновременно. Контроль генерации видео гораздо более сложная задача, чем текст или изображение, и требует нового уровня контекстного анализа.
Тем временем эксперты предупреждают, что OpenAI нельзя позволить себе публичных провалов с безопасностью перед выходом Sora 2 Pro — моделью, ориентированной на бизнес и производство видео для рекламы и кино. Ошибка [1] может дорого стоить — не только финансово, но и репутационно.
Делегируйте часть рутинных задач вместе с BotHub! [2] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке [3] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Источник [4]
Автор: cognitronn
Источник [5]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/20494
URLs in this post:
[1] Ошибка: http://www.braintools.ru/article/4192
[2] BotHub!: https://bothub.chat/?utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_source=contentmarketing&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_medium=habr&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_campaign=news&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_content=Sora%202%20EXPERIENCES%20ISSUES%20WITH%20CONTENT%20FILTERING
[3] По ссылке: https://bothub.chat/?invitedBy=m_aGCkuyTgqllHCK0dUc7
[4] Источник: https://www.404media.co/sora-2-content-violation-guardrails-error/
[5] Источник: https://habr.com/ru/companies/bothub/news/955004/?utm_source=habrahabr&utm_medium=rss&utm_campaign=955004
Нажмите здесь для печати.