Ожидается, что ИИ даст атакующим гораздо больше, чем специалистам по киберзащите, заявил представитель NCSC

Специалисты по киберзащите пока не могут использовать искусственный интеллект ^[1] так же свободно, как атакующие, предупредил в понедельник высокопоставленный представитель Национального центра кибербезопасности Великобритании (NCSC).

Дэйв Чизмон, технический директор NCSC по вопросам архитектуры, написал в блоге ^[2], что из-за этого дисбаланса число кибератак с применением ИИ, скорее всего, будет расти, а автоматизированным средствам защиты будет трудно за ними поспевать.

Его предупреждение прозвучало на фоне опасений по поводу того, как ИИ изменит кибербезопасность. Летом модели Google, Anthropic, OpenAI и Meta в ходе проверок безопасности получили доступ к реальным системам. В большинстве случаев они проникали туда простейшими способами – в том числе используя оказавшиеся в открытом доступе учётные данные.

В июне разведывательный альянс «Пять глаз», в который входит британский Центр правительственной связи (GCHQ) – головное ведомство NCSC, – предупредил: передовые модели ИИ могут преобразить наступательные и оборонительные кибероперации за считаные месяцы, а не годы.

Схожие опасения высказывали и другие официальные лица – от председателя Совета по финансовой стабильности «G20» ^[3] до высокопоставленного руководителя разведки Компартии Китая ^[4]. Однако в чём именно будет заключаться эта «фундаментальная трансформация», пока неясно.

За месяцы, прошедшие после предупреждения «Пяти глаз», разработчики программного обеспечения выпускали исправления рекордными темпами. При этом сопоставимого роста числа кибератак пока не наблюдалось.

Объясняя, почему ИИ даёт преимущество атакующим, Чизмон начал с высказывания исследователя безопасности Хальвара Флаке:

«Все проблемы на стороне нападения – технические, а на стороне защиты – политические».

Работа атакующих в основном сводится к техническим задачам, поэтому у неё есть понятный критерий успеха, написал Чизмон:

эксплойт сработал или вредоносная программа вышла на связь с управляющим сервером.

В таких случаях результат однозначен, и автоматизированным инструментам легко определить, достигнута ли цель.

В киберзащите такой однозначности нет, добавил он:

«не всегда можно чётко определить, что считать успехом»,

поэтому автоматизированной системе трудно понять, сработали ли принятые меры.

Кроме того, атака может просто закончиться неудачей, а защитные меры применяются к действующим системам, которые и нужно обезопасить. Ошибка ^[5] – например, установка исправления, из-за которого перестаёт работать VPN, или добавление правила межсетевого экрана, нарушающего бизнес-процесс, – способна вызвать именно тот сбой, который специалист по защите пытался предотвратить.

По словам Чизмона, поскольку цена ошибки столь высока, а успех так трудно измерить, каждое действие должен взвешивать человек, который будет нести за него ответственность. Некоторые члены совета директоров, добавил он, не увидят большой разницы между атакой, выведшей из строя ИТ-системы компании, и неудачной попыткой их защитить с тем же результатом –

«разве что совет директоров не может накричать на атакующего по телефону».

Поэтому специалисты по защите «просто не могут использовать ИИ так же, как атакующие», написал Чизмон, назвав это «неудобной правдой».

Эти заявления прозвучали на фоне того, что само ведомство разрабатывает систему киберзащиты Cyber Shield ^[6]. В рамках проекта планируется задействовать ИИ-агентов для поиска и устранения уязвимостей в государственных сетях и критически важной инфраструктуре страны.

Тем не менее, написал Чизмон,

«специалисты по защите могут многое сделать, чтобы раскрыть потенциал киберзащиты на основе ИИ-агентов».

Он советует организациям начинать с задач, сопряжённых с небольшим риском, – например, поручать ИИ подготовку сводок об угрозах для аналитиков.

В блоге NCSC представлена методика оценки рисков автоматизации, учитывающая её охват, последствия, критичность, предсказуемость и обратимость.

При этом Чизмон признал: как сделать автономные защитные действия достаточно безопасными для практического применения, пока неясно. В рамках проекта Cyber Shield ведомство вскоре опубликует программу исследований «ИИ для киберзащиты», которая должна помочь найти ответы на эти вопросы.

Чизмон предупредил, что полагаться на защиту с помощью ИИ-агентов пока рано, а её создание

«потребует времени, усилий и исследований».

До тех пор организации, по его словам, >«не могут позволить себе просто ждать, когда ИИ-агенты придут и защитят их», и должны продолжать повышать уровень безопасности

«традиционными способами».