Власти США потребовали от Anthropic полностью устранить джейлбрейки в Fable 5, иначе разрешения на её запуск не будет

Если Anthropic хочет повторно выпустить модель искусственного интеллекта ^[1] Fable 5, ей необходимо предпринять шаги для устранения предполагаемых американским правительством джейлбрейков, сообщила ^[2] администрация президента США Дональда Трампа. В первой половине июня разработчик Claude отключил доступ ^[3] к моделям Fable 5 и Mythos 5 по требованию американских властей.

Anthropic продолжает утверждать, что опасения администрации президента преувеличены и что последствия джейлбрейков минимальны. Компания подтвердила свою позицию Министерству торговли США и Национальному управлению кибербезопасности при Министерстве внутренней безопасности США.

Агентство национальной безопасности США пришло к выводу, что существуют способы отключить защитные ограничения в Fable 5. Эти ограничения внедрили, чтобы не позволять пользователям получать доступ к возможностям модели Mythos, связанным с кибербезопасностью, химией и биологией.

На текущем этапе администрация рассматривает ситуацию как проблему, которую должна решить Anthropic. Ни Минторг США, ни АНБ не располагают персоналом и ресурсами для отслеживания всех возможных джейлбрейков на каждой модели, поступающей на рынок.

Администрация президента считает, что Anthropic следует проявлять большую инициативу и постоянно тестировать не только Fable 5, но и все свои передовые ИИ-модели, чтобы выявлять потенциальные уязвимости и сообщать о них правительству. Однако на более фундаментальном уровне остаётся неясным, как компания должна предотвращать взлом системы.

Независимые эксперты в сфере кибербезопасности называют ^[4] подобные ограничения временным решением, поскольку опытные пользователи и будущие ИИ-модели найдут способы обхода, поэтому то, что пытается осуществить Белый дом, вероятно, невозможно.