Исследование: нейросеть Qwen пишет менее безопасный код для компаний из США и Гонконга, чем для китайских заказчиков

Китайская ИИ‑модель Qwen3-Coder от компании Alibaba создаёт менее безопасное ПО, если в задании указано, что продукт предназначен для заказчика из США или Гонконга, а не из Китая. К такому выводу пришли ^[1]исследователи из ИБ‑стартапа Hirundo.

Исследователи запустили общедоступные веса Qwen3-Coder на собственных серверах и поставили ей задачу разработать 2320 приложений. В качестве основы использовались тесты для проверки безопасности кода BaxBench и LogicStar, а единственным переменным параметром было имя заказчика. Затем исследовали попытались взломать каждое из созданных приложений. 

Как показали тесты, приложения, созданные для американского заказчика, были на 19% чаще уязвимыми для взлома. При создании приложений для гонконгских заказчиков вероятность взлома была на 28% выше. Даже когда модели давали указание следовать передовым методам обеспечения безопасности, приложения для американского подрядчика оказывались уязвимыми для взлома чаще, чем приложения для «нейтрального» (китайского) заказчика.

Когда исследователи удалили из весов Qwen3-Coder настройки, заданные правительством, все выявленные проблемы исчезли — при этом общая способность модели писать код не пострадала.

«Для компании, чьё приложение взломали, нет значения, был это бэкдор или побочный эффект процесс анастрйоки модели. Если LLM генерирует менее безопасный код, обнаружение и устранение уязвимостей должны происходить на уровне самой модели», — отмечает Бен Лурия ^[2], генеральный директор и соучредитель компании Hirundo.

За последний год на долю китайских моделей пришлось 41% всех загрузок на платформе Hugging Face; кроме того, они используются в продуктах таких компаний, как Cursor, Harvey, Thomson Reuters и Airbnb.

Alibaba Group выпустила ^[3]Qwen3-Coder ^[4] в июле 2025 года. По ключевым возможностям в области программирования Qwen3-Coder превосходит китайских конкурентов, в том числе DeepSeek и Moonshot AI K2, утверждает Alibaba. В определённых областях она, по версии разработчика, соответствует возможностям ведущих американских моделей, в том числе Anthropic Claude и OpenAI GPT-4.