Anthropic отправила сотрудников в Вашингтон, чтобы уладить конфликт в Белом доме после запрета на работу модели Fable 5

Anthropic отправила технических специалистов в Вашингтон для встречи с представителями Белого дома, чтобы попытаться урегулировать спор вокруг новой модели искусственного интеллекта ^[1] Fable 5, пишет ^[2] Axios со ссылкой на источники.

Компания мобилизовала ресурсы для примирения с администрацией президента США Дональда Трампа. Американские власти считают, что недавно выпущенные модели Fable 5 и Mythos 5 представляют угрозу безопасности. В результате по распоряжению Белого дома обе модели заблокировали из-за нарушений экспортного контроля.

Представители администрации сообщили, что Anthropic не проявила должной серьёзности в своих действиях. Однако источники Axios рассказали, что с момента первого обращения администрации технические специалисты компании проводили виртуальные встречи с представителями Белого дома.

Собеседники новостного сайта с обеих сторон заявляют о своём стремлении урегулировать этот вопрос.

Спустя несколько дней после запуска Fable 5 генеральный директор Amazon Энди Джесси заявил ^[3] в Белом доме об обеспокоенности по поводу возможности обойти установленные в модели ограничения. При этом Amazon выступает инвестором Anthropic. В частности, Amazon обнаружила, что если модель попросить проверить код на ошибки ^[4], то она найдёт в нём уязвимости, которые можно использовать для взлома.

«Введение экспортного контроля стало крайней мерой после многочасовых уговоров пойти нам навстречу. Мы не хотели этого делать, но наши руки были связаны», — сообщил высокопоставленный чиновник Белого дома.

В Anthropic опровергли утверждения о том, что компании предоставили выбор добровольно сотрудничать с администрацией. Белый дом дал 90 минут на удаление моделей, не предоставив никаких подробностей о реальной угрозе, поделился источник Politico.

Fable 5 представляет собой общедоступную модель, относящуюся к классу Mythos. Ранее этот уровень был закрыт и доступен только партнёрам по секретной программе Project Glasswing ^[5]. В начале текущего года генеральный директор Anthropic Дарио Амодей отказался предоставить ^[6] Министерству обороны полный доступ к ИИ-системам компании. После этого Пентагон поместил ^[7] Anthropic и её продукты в категорию рисков для цепочки поставок США.