Эпоха агентного ИИ больше не ограничивается компаниями-первопроходцами. Эти системы уже действуют в масштабах корпоративных сред, получая доступ к ресурсам, принимая решения и предпринимая действия с минимальным участием человека. Но вместе с этой автономией возникает и новый класс рисков. Архитектуры безопасности, созданные для предсказуемых, человекоцентричных рабочих процессов, оказываются неспособны справиться с агентами, работающими на машинной скорости, меняющими API и самостоятельно перемещающими конфиденциальные данные.
Дисклеймер: это вольный перевод колонки контрибьютора Forbes Виктора Дэй. Перевод подготовила редакция «Технократии». Чтобы не пропустить анонс новых материалов подпишитесь на «Голос Технократии» — мы регулярно рассказываем о новостях про AI, а также делимся полезными мастридами и актуальными событиями.
Согласно отчёту UiPath’s 2025 Agentic AI Report, более половины (56%) руководителей предприятий назвали безопасность главным приоритетом, опередив таким образом вопросы соответствия требованиям, затрат и сложности интеграции. По прогнозу Gartner, к 2027 году свыше 40% проектов с агентным ИИ могут быть свёрнуты из-за слабого управления и недостаточного контроля рисков.
«Каждый новый ИИ-агент — это одновременно актив и источник новой угрозы. Обеспечение безопасности агентного ИИ — принципиально новая задача: необходимо интегрировать предсказуемые правила и политики в системы, которые по определению являются недетерминированными. Это одни из самых масштабных вызовов в истории кибербезопасности», — рассказал мне Джиту Патель, президент и директор по продуктам компании Cisco. — «В беседах с руководителями в области безопасности и инфраструктуры часто выясняется, что основная проблема — в том, насколько быстро устаревшие парадигмы и команды по безопасности могут перестроиться под новую реальность».
Сегодня разговор о безопасности смещается от защиты данных к защите решений, которые ИИ-системы принимают автономно. В спешке модернизировать сети под агентный ИИ и IoT многие компании рискуют упустить вопрос безопасности. По данным опроса Cisco’s IT Networking Leader Survey 2025, 97% компаний считают обновление сетей критически важным для успеха инициатив в области ИИ и IoT. Однако цена ошибки велика: один серьёзный сбой способен обойтись мировой экономике почти в 160 миллиардов долларов.
«В корпоративной среде осознание проблемы растёт стремительно, — отметил в разговоре со мной Фернандо Монтенегро, вице-президент и руководитель практики кибербезопасности в The Futurum Group. — Но куда менее очевидно, сколько инициатив разворачивается внутри бизнес-подразделений, зачастую без полного участия команд по безопасности. Многие уже понимают срочность задачи, но службы безопасности должны подключаться к обсуждению с самого начала».
Новый план обороны: безопасность на базе ИИ в масштабе предприятия
Традиционные средства защиты принципиально несовместимы с требованиями агентного ИИ. По мере роста числа API-вызовов и усложнения поведения агентов привычные инструменты мониторинга всё хуже справляются с задачей. Без контроля и наблюдения в реальном времени агенты могут действовать непредсказуемо или даже опасно. Сегодня требуются новые возможности: непрерывная проверка, прозрачность и мгновенное реагирование.
Чтобы снизить растущие риски, технологические гиганты создают системы управления и защиты, способные работать с масштабом и скоростью агентного ИИ. Microsoft представила ИИ-ассистентов Security Copilot, которые обнаруживают и нейтрализуют угрозы с минимальным вмешательством человека. Google Cloud делает ставку на отслеживаемость и проверяемость всех своих ИИ-сервисов. IBM внедряет механизмы управления идентичностью в работу ИИ-систем.
Компания Cisco, специализирующаяся на облачных сетях и безопасности, интегрирует защиту глубже — вплоть до уровня микросхем. Недавно она представила стратегию AgenticOps, объединяющую наблюдаемость в реальном времени, архитектуру нулевого доверия и операции, изначально ориентированные на ИИ, в единой корпоративной системе.
«Техническое и экспертное сообщество понимает, что для управления этой новой экосистемой нужны специализированные архитектуры, объединяющие безопасность, глубокий междоменный контекст и постоянный надзор, а не просто надстройки поверх существующих систем», — пояснил мне Д. Дж. Сампат, старший вице-президент по программному обеспечению ИИ в Cisco. — «Есть три принципа, от которых нельзя отступать: участие человека на каждом этапе, контекст из разных доменов для каждого решения и защита, встроенная на всех уровнях — от кремния до программного кода».
В основе этой модели — Deep Network Model от Cisco, предметно-ориентированная языковая модель, обученная на десятилетиях телеметрических данных (данных, поступающих с удалённых или сложнодоступных систем). Она призвана дать специалистам по безопасности инструменты на естественном языке для мониторинга, расследования и реагирования на инциденты в реальном времени. По сути, это ИИ, созданный для защиты от ИИ.
Компания также внедрила универсальную архитектуру Zero Trust Network Access, которая расширяет управление доступом на основе идентичности, включая: делегированную авторизацию, позволяющую безопасно предоставлять доступ доверенным сервисным провайдерам без передачи учётных данных; защиту от фишинга на основе близости устройства, подтверждающую, что запрос поступает от находящегося рядом доверенного устройства; и поддержку нового стандарта Model Context Protocol (MCP), обеспечивающего безопасный обмен контекстом между различными приложениями ИИ.
«Мы делаем сети готовыми к будущему с помощью ИИ, который способен распознавать и контролировать поведение агентов в масштабе, — объяснил Патель. — Безопасность должна быть столь же быстрой и адаптивной, как и сами ИИ-агенты».
Патель отмечает, что агентный ИИ создаёт беспрецедентную скорость и сложность операций, и хотя прогресс налицо, ключевые узкие места сейчас проявляются на сетевом уровне. «Многие ограничения масштабирования ИИ, такие как энергопотребление и неэффективное использование GPU, можно устранить более эффективным сетевым взаимодействием и оркестрацией, которые обеспечивают доставку данных туда, где и когда они нужны», — добавил он.
Развивая эту концепцию, Cisco усиливает интеграцию после покупки Splunk: телеметрия с межсетевых экранов Cisco теперь напрямую поступает в платформу безопасности Splunk, что позволяет автоматически запускать сценарии реагирования и сопоставлять сигналы угроз по всему стеку агентных приложений.
Агентный ИИ требует нового подхода в кибербезопасности и изменения философии
Компании, которые преуспеют в новой эпохе, будут те, кто примет простую истину: если ИИ — двигатель инноваций в бизнесе, то ИИ-ориентированная безопасность должна быть его рулевым управлением.
По словам Монтенегро, важнейшая работа с агентным ИИ сегодня заключается в создании прозрачного и глубокого понимания двух основополагающих областей. Во-первых, того, как функционирует организация: её ключевых бизнес-процессов, взаимодействия со стейкхолдерами и целевых результатов. Во-вторых, того, как работают современные ИИ-системы, в частности агенты: как абстрактные концепции преобразуются в математические модели, какая инфраструктура требуется для их поддержки и как они взаимодействуют внутри экосистемы.
«Когда эти две основы будут заложены, организация окажется в куда более выгодном положении для оценки и внедрения агентных рабочих процессов во множестве сценариев», — добавляет он.
Кибербезопасность нового поколения будет определяться не скоростью реакции на угрозы, а умением предугадывать их. И это будущее уже формируется.
«Предварительное обучение закладывает основу, но в эпоху агентного ИИ этого недостаточно. Нужны контуры обратной связи в реальном времени. Системы должны постоянно учиться и укрепляться по мере того, как агенты взаимодействуют и адаптируются», — сказал Сампат. — «AgenticOps меняет правила игры: теперь ИИ-агенты не просто создают аналитические выводы, но и активно защищают и адаптируют сеть в реальном времени».
Автор: madballer34
