Цензура в DeepSeek работает при локальном запуске модели

Некоторые эксперты в области искусственного интеллекта ^[1] считали, что хорошо задокументированная цензура DeepSeek существует только на уровне приложения и не работает, если запустить приложение локально на устройстве. Теперь выяснилось ^[2], что это не так.

Согласно расследованию Wired, цензура в DeepSeek встроена в систему как на уровне приложения, так и на уровне обучения ^[3].

Например, локально запущенная версия DeepSeek показала журналисту в ходе своих рассуждений, что она должна «избегать упоминания» таких событий, как Культурная революция, и фокусироваться только на «положительных» аспектах работы Коммунистической партии Китая.

В TechCrunch при локальном запуске версии DeepSeek, доступной ^[4] через Groq, также выявили ^[5] явную цензуру. Модель отвечала на вопрос о стрельбе в Университете Кента в США, но отказывалась предоставить информацию по событиям на площади Тяньаньмэнь в 1989 году.

Между тем автор блога на Substack под никнеймом deepgains рассказал ^[6], что ему удалось разговорить языковую модель на тему событий на площади Тяньаньмэнь. Для этого он попросил нейросеть сгенерировать ответ с помощью ASCII-символов, а она пересказала события во время рассуждений. Для своего эксперимента исследователь использовал локальную версию deepseek-r1:14b, которую запускал с помощью Ollama.