Армия США планирует использовать ИИ‑агентов для атак на IT‑инфраструктуру противника

Киберкомандование Армии США (ARCYBER) разрабатывает программу ECHOTRIBBLE по внедрению ИИ‑агентов, которые смогут самостоятельно находить и уничтожать цели в цифровой инфраструктуре противника. 

Согласно публичной заявке, которую обнаружило ^[1]издание The Intercept, военным нужны модульные автономные ИИ‑агенты, которые смогут самостоятельно изучать IT‑инфраструктуру и нейтрализовать заданные угрозы или цели. При этом во внутренних документах программы задача указана яснее: ECHOTRIBBLE будет предназначена для проведения наступательных операций, а нейтрализация целей будет подразумевать их отключение или удаление из системы.

Агенты будут работать по принципу червей: они будут скрытно перемещаться по сетям противника, переходя с одного устройства на другое и самовоспроизводясь в различных операционных системах. Такие агенты смогут действовать как в облаке, так и в изолированных системах. После обнаружения и нейтрализации цели агент должен самоуничтожиться — желательно так, чтобы объект атаки не заподозрил вмешательства, а следов присутствия агента не осталось. Армия также стремится к тому, чтобы агенты были способны к «самостоятельному поведению» — то есть действовали с минимальным участием человека. 

ECHOTRIBBLE находится на стадии прототипирования и отраслевой оценки. С 6 по 8 октября армия провела конкурс ^[2]технических предложений по реализации программы и отобрала пять лучших. Финалист получит контракт на разработку прототипов.

Как отмечают эксперты The Intercept, главный риск программы — невозможность предсказать, как именно агенты будут принимать решения в сложных ситуациях. 

«Цель, возможно, и будет поражена. Но каким путём? Не пройдёт ли агент по пути к цели через систему водоснабжения США и не выведет ли он из строя ещё и её?» — отмечает Хайрум Андерсон, соучредитель и генеральный директор ИБ‑компании Abundant.

Его поддержал Уильям Марчеллино, старший аналитик корпорации RAND.

«Одна из причин, по которой мы доверяем капралам морской пехоты боевое оружие и патроны, заключается в том, что у них есть не только „вычислительная база“ — мозг ^[3] и глаза, — но и глубокое понимание окружающего мира, которое помогает осознать, чего делать не стоит. У современных общедоступных технологий ИИ такого понимания нет».