Anthropic до сих пор не предоставила неограниченный доступ Пентагону к своим моделям

Компания Anthropic продолжает отказывать Пентагону в неограниченном доступе к своим моделям искусственного интеллекта ^[1], и это противостояние перерастает в серьезную проблему. По данным Axios ^[2], Министерство обороны США сейчас рассматривает возможность сокращения или полного прекращения партнерства с Anthropic.

Компания Anthropic настаивает на проведении линии в отношении двух вещей: массового наблюдения за гражданами США и полностью автономного оружия. Высокопоставленный правительственный чиновник сообщил Axios, что переговоры с Anthropic по отдельным сценариям применения просто нецелесообразны.

По словам чиновника, компании OpenAI, Google и xAI стали более охотно сотрудничать с Пентагоном. Все три компании согласились отказаться от ограничений, которые обычно применяются к обычным пользователям при работе с Пентагоном.

Пентагон ведет с ними переговоры о расширении использования в секретных средах и настаивает на стандарте для всех законных целей, охватывающем как секретное, так и несекретное использование. По словам чиновника, одна из трех компаний уже согласилась на эти условия, а две другие проявляют больше гибкости, чем Anthropic.

Пентагон и компания Anthropic столкнулись из-за оружия на основе искусственного интеллекта и мер безопасности для наблюдения

Пентагон хочет получить неограниченный доступ к технологиям искусственного интеллекта. Компания Anthropic требует гарантий против автономного управления оружием и внутреннего наблюдения. На кону стоит контракт на 200 миллионов долларов.

Как сообщает агентство Reuters со ссылкой на многочисленные источники, знакомые с ситуацией, Пентагон и компания Anthropic, занимающаяся разработкой искусственного интеллекта, ведут спор о военном применении технологий ИИ. Конфликт ^[3] сосредоточен на гарантиях: Anthropic требует гарантий того, что ее инструменты ИИ не будут использоваться для автономного управления оружием без надлежащего контроля со стороны человека или для слежки за американскими гражданами.

Пентагон, который администрация Трампа переименовала в «Военное министерство», отвергает эти ограничения. Согласно служебной записке от 9 января о стратегии в области ИИ, министерство настаивает на использовании коммерческих технологий ИИ независимо от политики использования производителями, при условии соблюдения законов США. Переговоры по контракту на сумму до 200 миллионов долларов в настоящее время зашли в тупик.

Компания Anthropic балансирует на тонкой грани между этикой и оборонными контрактами

Генеральный директор Anthropic Дарио Амодей на этой неделе написал в своем блоге ^[4], что ИИ должен поддерживать национальную оборону всеми возможными способами, за исключением тех, которые сделают нас больше похожими на наших авторитарных противников. Он также назвал ужасом расстрелы граждан США во время протестов против мер по контролю за иммиграцией в Миннеаполисе. По данным Reuters, эти инциденты усилили опасения некоторых представителей IT-компаний по поводу использования правительством своих инструментов для потенциального насилия. У Anthropic есть контракты с Palantir, которая напрямую сотрудничает с ICE – агентством, причастным к инцидентам в Миннеаполисе.

Пентагону, вероятно, потребуется сотрудничество с Anthropic, поскольку модели компании обучены избегать потенциально опасных действий, а инженерам Anthropic потребуется адаптировать ИИ для военного использования. Этот спор возникает в деликатный момент для Anthropic, которая готовится к IPO и, по данным Reuters, инвестировала значительные ресурсы в сферу национальной безопасности.

Делегируйте часть рутинных задач вместе с BotHub! ^[5] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[6] вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник ^[7]