SpaceX участвует в конкурсе Пентагона на разработку голосового управления роем дронов

SpaceX Илона Маска и стопроцентно принадлежащая ему дочерняя компания xAI участвуют в новом секретном конкурсе Пентагона на разработку технологии роения автономных дронов с голосовым управлением.

Выход двух компаний Маска, о слиянии которых он объявил в начале февраля, на новый рубеж в разработке оружия с использованием искусственного интеллекта ^[1] знаменует собой новый и потенциально неоднозначный шаг для Маска. Несмотря на то, что SpaceX — хорошо зарекомендовавший себя оборонный подрядчик, а Маск с энтузиазмом относится к развитию искусственного интеллекта, он также входит в число тех, кто ранее выступал против создания «новых инструментов для убийства людей».

Компании Маска входят в число немногих, отобранных для участия в соревновании за приз в размере 100 миллионов долларов, объявленном в январе. Ранее об участии SpaceX и xAI в соревновании не сообщалось.

Цель шестимесячного конкурса — разработать передовую технологию роевого взаимодействия, которая сможет преобразовывать голосовые команды в цифровые инструкции и управлять несколькими дронами.

Несмотря на то, что уже сейчас можно управлять несколькими дронами одновременно, разработка программного обеспечения для управления несколькими дронами на море и в воздухе в режиме роя, который может автономно перемещаться в поисках цели, остается сложной задачей. По словам участников, конкурс будет проходить в несколько этапов в зависимости от успеха и заинтересованности участников.

Конкурс Пентагона был организован совместно Управлением оборонных инноваций, которое занимается привлечением стартапов из Кремниевой долины, и Группой автономных боевых действий — новым подразделением, созданным при второй администрации Трампа и входящим в состав Командования специальных операций США. Группа автономных боевых действий частично продолжает работу инициативы Replicator, запущенной при администрации Байдена, в рамках которой планировалось произвести несколько тысяч одноразовых автономных дронов.

Проект будет реализовываться в пять этапов, начиная с разработки программного обеспечения и заканчивая тестированием в реальных условиях. В январском объявлении о конкурсе представитель министерства обороны сообщил, что дроны будут использоваться в наступательных целях, и добавил, что взаимодействие человека и машины «непосредственно повлияет на смертоносность и эффективность этих систем».

Допуски к секретной информации

Согласно информации на сайте компании, xAI недавно приступила к масштабному набору сотрудников для работы с федеральными подрядчиками из Вашингтона или с Западного побережья, имеющих действующий допуск к секретной информации США уровня «секретно» или «совершенно секретно». Компания ищет инженеров-программистов, которые привыкли работать с «государственными учреждениями, Министерством обороны или федеральными подрядчиками над проектами в области искусственного интеллекта, программного обеспечения или обработки данных», говорится в объявлении о вакансии. Процесс найма будет завершен в течение недели.

Компания уже заключила контракты с Пентагоном на интеграцию своего чат-бота Grok в правительственные системы, чтобы «расширить возможности военных и гражданских лиц», как заявила xAI в декабре. Ранее компания заключила с Пентагоном контракт на 200 миллионов долларов на интеграцию xAI в военные системы.

Несмотря на то, что SpaceX уже давно работает в сфере оборонных контрактов, компания сосредоточилась на создании многоразовых космических ракет и спутников для исследования космоса, систем военной связи и разведки, а не программного обеспечения для наступательных вооружений. SpaceX, наряду с Boeing Co. и Lockheed Martin Corp., является поставщиком ракет для запуска наиболее важных спутников Пентагона.

Ранее Маск выступал за запрет наступательного автономного оружия, которое может самостоятельно выбирать цели и поражать их, а также действовать без реального контроля со стороны человека.

В 2015 году Маск подписал открытое письмо исследователей в области искусственного интеллекта и робототехники, в котором они предупреждали об опасностях автономного оружия.

Компания xAI, которую Маск основал в 2023 году, владеет его стартапом в области искусственного интеллекта, социальной сетью X и чат-ботом Grok. Компания, которая всего несколько недель назад согласилась на слияние со SpaceX в рамках сделки стоимостью 1,25 триллиона долларов, обременена долгами на миллиарды долларов, находится под давлением хорошо финансируемых конкурентов и сталкивается с растущим вниманием ^[2] со стороны регулирующих органов после того, как ее чат-бот распространил изображения сексуального характера. Кроме того, по сравнению со SpaceX, компания приносит небольшой доход.

Когда компании договорились о слиянии, Маск опубликовал на сайте SpaceX заявление о том, что компания приобрела xAI, чтобы «создать самый амбициозный, вертикально интегрированный инновационный механизм на Земле (и за ее пределами) с искусственным интеллектом, ракетами, космическим интернетом, прямой связью с мобильными устройствами и крупнейшей в мире платформой для обмена информацией и свободой слова в режиме реального времени».

Маск ничего не сказал о слиянии двух компаний для разработки искусственного интеллекта и программного обеспечения, лежащего в основе новых оружейных технологий. Но новое предложение Пентагона, над которым будут работать инженеры и руководители xAI и SpaceX, направлено именно на это.

На первом этапе конкурса основное внимание будет уделяться разработке программного обеспечения, а на втором — использованию реальных платформ. Согласно описанию задачи, составленному Пентагоном, программное обеспечение предназначено для координации движения дронов в различных средах, в том числе в воздухе и на море. На более поздних этапах планируется разработать систему «оповещения и обмена информацией о целях» и, в конечном счёте, систему «от запуска до уничтожения».

xAI — не единственная компания, занимающаяся передовыми разработками в области искусственного интеллекта и участвующая в новом проекте Пентагона. OpenAI поддерживает успешную заявку Applied Intuition.

Вклад OpenAI в проект ограничится исключительно элементом «управления операцией», который будет преобразовывать голосовые и другие команды полевых командиров в цифровые инструкции. Как ранее сообщал Bloomberg, технология OpenAI не будет использоваться для управления роем дронов, интеграции оружия или целеуказания.

Представитель OpenAI сообщил, что технология компании с открытым исходным кодом была включена в конкурсные предложения двух существующих компаний-партнёров и что OpenAI будет следить за тем, чтобы любое использование её инструментов соответствовало политике компании.

По словам источников, знакомых с ситуацией, SpaceX и xAI, напротив, будут работать над проектом вместе.

По словам нескольких источников, перспектива интеграции чат-ботов и голосовых команд в системы вооружения встревожила даже некоторых представителей оборонного ведомства, несмотря на стремление Пентагона ускорить внедрение искусственного интеллекта и автономных систем. По их мнению, важно ограничить генеративный ИИ функцией перевода и не позволять ему управлять поведением ^[3] дронов.

Некоторые участники выразили обеспокоенность по поводу рисков, связанных с использованием генеративного искусственного интеллекта для преобразования голосовых команд в оперативные решения без участия человека.

Большие языковые модели, на которых основаны чат-боты, такие как ChatGPT от OpenAI, подвержены предвзятости и так называемым «галлюцинациям». Это означает, что они могут генерировать ответы, не соответствующие действительности, но которые ИИ может выдавать за достоверные.

Новая Стратегия Пентагона по ускорению внедрения искусственного интеллекта, опубликованная в январе, направлена на то, чтобы «выпустить на волю» ИИ-агентов на поле боя — от планирования военных кампаний до целеуказания, потенциально включающего нанесение смертоносных ударов.