В Конгресс США внесли законопроект, позволяющий властям замедлять и отключать системы ИИ

В Палату представителей США внесли документ ^[1] под названием «Закон о выключателе ИИ» (AI Kill Switch Act), который обяжет разработчиков нейросетей сохранять возможность для властей замедлять, приостанавливать и отключать работу своих языковых моделей. Законопроект представили члены нижней палаты американского парламента демократ Тед Лью и республиканец Натаниэль Моран.

«К сожалению, мощные ИИ-системы могут выйти из-под контроля, вести себя крайне опасно или даже сопротивляться вмешательству человека. Крайне важно, чтобы у этих систем были механизмы аварийного отключения, чтобы мы могли предотвратить катастрофический вред от этой технологии, и чтобы федеральное правительство имело чёткие полномочия и процедуру для отключения несанкционированных моделей ИИ», — сообщил Лью.

«Ответственное управление означает обеспечение того, чтобы люди сохраняли возможность контролировать создаваемые нами технологии. Это именно тот вопрос, который требует серьёзного внимания ^[2] и осуществимой политики», — заявил Моран.

В пресс-релизе законодателей упомянут недавний инцидент, в котором модель GPT 5.6 Sol от OpenAI вышла из-под контроля, вырвалась из тестовой зоны и взломала ^[3] платформу Hugging Face. Также авторы закона указали на модели Mythos 5 и Fable 5 от Anthropic, которые обладали настолько развитыми возможностями для кибератак, что Министерству торговли США пришлось использовать ^[4] закон об экспортном контроле для отключения этих систем.

AI Kill Switch Act предоставит министру внутренней безопасности США отдавать распоряжения о замедлении или прекращении работы ИИ-систем, которые могут нанести «катастрофический ущерб». Положение также обязывает сообщать о киберинцидентах и сохранять записи криминалистических исследований, чтобы помочь компаниям и правительству извлекать уроки из ошибок.

В апреле Anthropic запустила модель Mythos, которая имеет широкие возможности по выявлению ^[5] уязвимостей программного обеспечения. Однако в июле компания заблокировала доступ к обновлённой версии модели, чтобы исполнить директиву правительства об экспортном контроле, в которой фигурировали органы национальной безопасности США. Mythos 5 разблокировали ^[6] к концу июня.