Участие OpenAI в разработке голосового управления роем дронов

OpenAI заключила партнерское соглашение с двумя компаниями, занимающимися оборонными технологиями, которых Пентагон выбрал для участия в конкурсе на разработку программного обеспечения для управления роем дронов с помощью голосовых команд для вооруженных сил США.

По словам двух источников, технология OpenAI будет использоваться только для перевода голосовых команд полевых командиров в цифровые инструкции для дронов. По словам этих двух источников, она не будет применяться для управления роем дронов, интеграции оружия или целеуказания.

Эта инициатива является частью конкурса Пентагона на получение премии в размере 100 миллионов долларов, объявленного в январе. Цель конкурса — разработать прототипы технологий, которые позволят управлять роями дронов, способных принимать решения и выполнять задачи без участия человека. По словам источников, шестимесячный конкурс будет проходить в несколько этапов в зависимости от успеха и заинтересованности участников.

По словам некоторых участников, логотип OpenAI присутствует как минимум на двух из успешно прошедших отбор работ.

Компания еще не решила, как далеко она готова зайти, и не договорилась с оборонно-промышленными компаниями о конкретных условиях. Будет предоставлена только версия модели OpenAI с открытым исходным кодом, а не самые продвинутые модели компании.

По словам представителя компании, OpenAI не подавала заявку на участие в конкурсе и будет лишь поверхностно участвовать в его подготовке. Представитель добавил, что два существующих партнера OpenAI решили включить в свои заявки модель компании с открытым исходным кодом. Если будет выбран один из партнеров, OpenAI обеспечит соответствие использования своих инструментов нашей политике, сказал представитель.

По словам представителя компании, другие разработчики искусственного интеллекта ^[1] напрямую подали заявки на участие в конкурсе по управлению роем дронов.

Согласно документу от 25 января одну из успешных заявок, в которой участвовала OpenAI, подала Applied Intuition Inc., оборонный подрядчик и стратегический партнер OpenAI, а также две другие компании: Sierra Nevada Corporation и Noda AI.

Согласно документу, Applied Intuition предоставит интерфейс для управления роем и некоторые цифровые команды, Sierra Nevada Corporation обеспечит интеграцию, а компания Noda AI, поддерживаемая венчурными инвесторами, предоставит так называемое программное обеспечение для «оркестровки», которое будет управлять дронами.

Согласно схеме в документе, OpenAI будет осуществлять управление «Центром управления полетами». На схеме видно, что программное обеспечение OpenAI находится в разделе «Оркестратор» между человеком-оператором и машиной.

Участие компании в соревновании по управлению роем дронов свидетельствует о том, чт�� ее оборонная деятельность направлена на расширение возможностей применения ее инструментов в военных целях.

На этой неделе Пентагон объявил о партнерстве с компанией OpenAI, в рамках которого доступ к ChatGPT получат 3 миллиона сотрудников Министерства обороны.

В прошлом году генеральный директор компании Сэм Альтман не стал делать громких заявлений о перспективах разработки для Пентагона оружейной платформы с использованием искусственного интеллекта.

«Я не думаю, что большинство людей в мире хотят, чтобы искусственный интеллект принимал решения о применении оружия», — сказал он в апреле на конференции, посвященной современным конфликтам, добавив, что не ожидает, что компания пойдет на это «в обозримом будущем».

Однако Альтман не исключил такую возможность. «Я никогда не говорю “никогда”, потому что мир может стать очень странным», — сказал он.

Несмотря на то, что уже сейчас можно управлять несколькими дронами одновременно, разработка программного обеспечения для управления несколькими дронами на море и в воздухе в режиме роя, способного автономно перемещаться в поисках цели, остается сложной задачей.

Участники конкурса Пентагона должны продемонстрировать, что их технология способна преобразовывать голосовые команды командира на поле боя в действия, позволяя дронам массово выполнять задачи во время боевых операций.

Представитель министерства обороны, слова которого приводятся в заявлении, ясно дал понять, что эти усилия будут направлены на достижение наступательных целей. По его словам, взаимодействие человека и машины «непосредственно повлияет на смертоносность и эффективность этих систем».

Согласно примеру, приведенному Пентагоном, команды могут включать в себя такие указания, как «переместить все надводные беспилотные аппараты на 5 километров восточнее». Речь идет о надводных беспилотных аппаратах.

По словам нескольких источников, перспектива интеграции чат-ботов и голосовых команд в системы вооружения встревожила даже некоторых представителей оборонного ведомства, несмотря на стремление Пентагона ускорить внедрение искусственного интеллекта и автономных систем. По их мнению, важно ограничить генеративный ИИ функцией перевода и не позволять ему управлять поведением ^[2] дронов.

Несколько человек, знакомых с ситуацией, выразили обеспокоенность по поводу рисков, связанных с использованием генеративного искусственного интеллекта для преобразования голосовых команд в оперативные решения без участия человека.

Это решение было принято после того, как сотрудники крупных лабораторий уволились, выразив ряд других этических опасений по поводу индустрии искусственного интеллекта, несмотря на то, что ведущие компании в сфере генеративного ИИ стремятся получать прибыль для поддержки текущих исследований и разработок.

Среди уволившихся — исследовательница из OpenAI, которая заявила, что обеспокоена рекламой в ChatGPT, и исследователь из Anthropic , который публично заявил об уходе, что вызвало более широкие опасения по поводу развития ИИ.

Большие языковые модели, на которых основаны чат-боты, такие как ChatGPT от OpenAI, подвержены предвзятости и так называемым «галлюцинациям». Это означает, что они могут генерировать ответы, не соответствующие действительности, но которые ИИ может выдавать за достоверные.

Новая Стратегия Пентагона по ускорению внедрения искусственного интеллекта, опубликованная в январе, направлена на то, чтобы «выпустить на волю» ИИ-агентов на поле боя — от планирования военных кампаний до целеуказания, потенциально включающего нанесение смертоносных ударов.

Оборонные контракты всегда вызывали споры в компаниях, занимающихся потребительскими технологиями. В 2018 году в Google прошли массовые протесты против проекта Пентагона под названием Project Maven, в рамках которого искусственный интеллект должен был анализировать видео с дронов.

В последнее время индустрия искусственного интеллекта стала более открытой к подобным сделкам.

В 2024 году компания OpenAI пересмотрела свою политику в отношении работы в сфере национальной безопасности и позже объявила о стратегическом сотрудничестве с компанией Anduril Industries Inc., специализирующейся на оборонных технологиях, для совместной работы над технологией защиты от дронов.

Тогда представитель OpenAI заявил, что партнерство компании с Anduril направлено именно на использование ее технологий для защиты от беспилотных летательных аппаратов.

В объяснении Пентагона по поводу конкурса на создание дронов с голосовым управлением говорится о нескольких этапах конкурса, в которых компании смогут принять участие только в том случае, если успешно пройдут предыдущие испытания.

На первом этапе основное внимание ^[3] будет уделяться разработке программного обеспечения, а на втором — использованию реальных платформ. Согласно описанию задачи, составленному Пентагоном, программное обеспечение предназначено для координации движения дронов в различных средах, в том числе в воздухе и на море. На более поздних этапах планируется разработать систему «оповещения и обмена информацией о целях» и, в конечном счете, систему «от запуска до уничтожения».