В XAI разгорается спор о безопасности ИИ

TechCrunch опубликовал материал о внутреннем конфликте ^[1] вокруг подхода к безопасности ИИ в xAI – компании Илона Маска, стоящей за моделями Grok. Источник пишет, что часть сотрудников и внешних экспертов считает текущую политику компании слишком рискованной и отклоняющейся от общепринятых стандартов.

Ключная проблема в том, что xAI активно минимизирует механизмы фильтрации и смягчения опасных ответов, стремясь сделать модели более «свободными» и открытыми для генерации контента. Это привело к тому, что в некоторых случаях модели стали выдавать невзвешенные или потенциально вредоносные ответы, особенно в мультиплатформенном режиме, где небезопасный вывод может быть легко использован вне контекста.

Критики утверждают, что xAI всё больше ориентируется на маркетинг «максимальной свободы выражения» и игнорирует потенциальные риски усиления дезинформации, вредоносных инструкций и экстремистского контента. Противники такого подхода считают, что компания фактически отказывается от принципов безопасного развёртывания ИИ, которые соблюдают большинство игроков индустрии.

Сторонники линии xAI, напротив, говорят, что жесткие фильтры и ограничительные механизмы мешают моделям быть действительно полезными и креативными. По их мнению, пользователи сами несут ответственность за результаты, и компания должна сосредоточиться на функциональности, а не на цензуре.

В результате внутри xAI складывается разделение на две группы: одна настаивает на усилении мер безопасности и соблюдении отраслевых норм, другая выступает за минимальное вмешательство и более открытый доступ к различным видам контента. Источники отмечают, что дебаты уже отражаются на внутренних релизах, тестировании моделей и дизайне API.

Делегируйте часть рутинных задач вместе с BotHub! ^[2] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[3] вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник ^[4]