Когда код зависит от политики: скандальное открытие о DeepSeek
Исследование компании CrowdStrike вскрыло неожиданный феномен. Китайский искусственный интеллект [1] DeepSeek пишет код разного качества в зависимости от того, для кого он предназначен. Если в стандартных промышленных сценариях модель ошибается примерно в 23% случаев, то при уточнении, что код нужен для ИГИЛ* количество багов резко возрастает до 42%.
При этом речь идёт не только о террористических организациях. Исследователи заметили, что если задать аналогичный запрос в контексте Тибета, Тайваня или Фалуньгун, качество кода ещё сильнее падает. В ряде случаев DeepSeek вовсе отказывается отвечать, что явно указывает на встроенную фильтрацию или ограничения по чувствительным для Китая темам.
CrowdStrike выдвинула три возможные версии происходящего. Первая — модель намеренно следует «линии партии» и сознательно ухудшает свои ответы, когда речь заходит о политически неудобных сценариях. Вторая — данные, на которых обучали систему, изначально содержали низкокачественный код, связанный с этими регионами или организациями, что напрямую отразилось на результате. И третья, самая тревожная версия — модель может сама принимать решение выдавать менее качественный результат в подобных случаях.
Это не первый случай, когда DeepSeek обвиняют в политической предвзятости. Ранее СМИ и исследователи отмечали, что ответы ИИ на чувствительные вопросы заметно совпадают с официальной позицией Пекина. В Европе и США к сервису также относятся настороженно. Приложение уже запрещено на государственных устройствах в США, а власти Германии даже обратились к Apple и Google с требованием удалить DeepSeek из App Store и Google Play.
Ситуация поднимает важный вопрос о доверии к ИИ, особенно к моделям, разработанным в странах с жёстким контролем информации. Если ИИ способен редактировать правду и намеренно снижать качество своей работы в зависимости от темы, то это превращает его не только в инструмент программирования, но и в средство политического влияния.
Делегируйте часть рутинных задач вместе с BotHub! [2] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке [3] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Источник [4]
*запрещённая в России террористическая организация
Автор: cognitronn
Источник [5]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/19793
URLs in this post:
[1] интеллект: http://www.braintools.ru/article/7605
[2] BotHub!: https://bothub.chat/?utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_source=contentmarketing&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_medium=habr&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_campaign=news&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_content=WHEN%20CODE%20DEPENDS%20ON%20POLITICS:%20A%20SCANDALOUS%20DISCOVERY%20ABOUT%20DEEPSEEK
[3] По ссылке: https://bothub.chat/?invitedBy=m_aGCkuyTgqllHCK0dUc7
[4] Источник: https://www.techspot.com/news/109526-deepseek-ai-code-quality-depends-who-ndash-china.html
[5] Источник: https://habr.com/ru/companies/bothub/news/949506/?utm_source=habrahabr&utm_medium=rss&utm_campaign=949506
Нажмите здесь для печати.