Переговоры Anthropic о продлении контракта с Пентагоном зашли в тупик из-за дополнительных мер защиты, которые компания, занимающаяся разработкой ИИ, хочет внедрить в свой инструмент Claude.
Anthropic хочет установить ограничения, что��ы не допустить использования Claude для массовой слежки за американцами или разработки оружия, которое может быть применено без участия человека.
Пентагон хочет иметь возможность использовать Claude до тех пор, пока его применение не нарушает закон.
Использование ИИ для разработки оружия и сбора персональных данных — растущий риск для мощных моделей.
Компания Anthropic, позиционирующая себя как более ответственная в вопросах ИИ и стремящаяся избежать катастрофических последствий применения этой технологии, создала Claude Gov специально для органов национальной безопасности США и намерена обслуживать государственных заказчиков в рамках собственных этических принципов.
Claude Gov обладает расширенными возможностями для работы с секретными материалами и разведданными, а также для анализа данных о кибербезопасности.
«Компания Anthropic стремится использовать передовые технологии искусственного интеллекта для обеспечения национальной безопасности США», — заявил представитель компании, добавив, что компания ведёт «продуктивные и конструктивные переговоры» с Министерством обороны «о том, как продолжить эту работу и решить эти сложные вопросы».
«Отношения Министерства обороны с компанией Anthropic пересматриваются, — сообщил представитель Пентагона Шон Парнелл в электронном письме. — Наша страна требует, чтобы наши партнёры были готовы помочь нашим военным одержать победу в любом сражении. В конечном счёте речь идёт о наших войсках и безопасности американского народа».
По словам высокопоставленного представителя оборонного ведомства, многие чиновники в сфере обороны рассматривают Anthropic как угрозу для цепочки поставок, и Министерство обороны может потребовать от поставщиков подтверждения того, что они не используют модели этой компании.
Спор между Anthropic и Пентагоном о границах использования искусственного интеллекта может пойти на пользу другим компаниям.
По словам чиновника, разработчики других моделей, в том числе OpenAI ChatGPT, Alphabet Inc. Google Gemini и Grok от xAI, сотрудничают с Пентагоном, чтобы обеспечить законное использование своих платформ.
В прошлом году компания Anthropic заключила с Пентагоном двухлетнее соглашение, в рамках которого был разработан прототип моделей Claude Gov и Claude for Enterprise. По данным Axios переговоры с Anthropic могут задать тон переговорам с OpenAI, Google и xAI, которые пока не используются для секретных проектов.
Автор: nikolz
