Сегодня снова говорим с Алексеем Ахмеевым, руководителем Управления информационной безопасности Своего Банка (входит в финтех-группу СВОЙ). С 2023 года Алексей отвечает за информационную безопасность всей экосистемы группы, под его руководством в компаниях провели полную модернизацию регламентной и технической базы системы обеспечения информационной безопасности, внедрили централизованную систему мониторинга инцидентов и запустили проекты по противодействию утечкам данных.
Тема разговора — искусственный интеллект и то, как он меняет ландшафт киберугроз: и со стороны хакеров, и со стороны защиты. Собрали для вас самое важное без лишней воды.
ИИ — инструмент, а не приговор
Алексей, расскажи, как в целом изменился подход к оценке рисков, связанных с ИИ?
Раньше риски, связанные с ИИ, чаще оценивали по принципу «все или ничего»: либо это абсолютное зло, которое нужно ограничивать, либо абсолютное благо, которому можно доверять по умолчанию. Но на мой взгляд, в этом кроется ключевая ошибка. Искусственный интеллект — это именно инструмент. Он может быть и в хороших, и в плохих руках — все зависит от того, на чем его обучили и кто им управляет. А поскольку обучающие датасеты сегодня по объему огромны, возможности инструмента — причем в любых руках — растут кратно. Поэтому и оценивать риски теперь приходится не в целом «за» или «против» ИИ, а применительно к конкретному сценарию его использования.
А как изменились сами ИИ-атаки за последнее время?
Пару лет назад мы стали регулярно сталкиваться с классикой — фишингом и дипфейками с имитацией голоса и видео первых лиц компании. Сотрудники к тому моменту были уже неплохо подготовлены и сами присылали нам записи подозрительных звонков с экрана. И надо признать: человеку, лично не знакомому с руководителем, действительно легко спутать подделку с реальным звонком или видео — вот настолько выросло качество.
А относительно недавно, примерно месяц-полтора назад, при плановом анализе защищенности внешнего периметра мы начали фиксировать атаки на наши внешние ресурсы, которые в том виде, в каком они проводились, без применения ИИ попросту невозможны. Раскрывать, как именно мы это определяем, не буду, чтобы самим не подставиться под удар, но вместе с экспертной группой, штатными пентестерами и спецами по кибербезопасности мы пришли к выводу: ИИ действительно применяется, и как минимум по двум направлениям — в дипфейках и в поиске и эксплуатации уязвимостей кода.
ИИ ускоряет работу специалистов ИБ
Из твоих слов выходит, что сегодня ИИ работает не только на злоумышленников?
Именно так — тот же инструмент эффективно работает и на «светлой стороне». Наши штатные пентестеры используют для оценки уязвимостей внутренние модели искусственного интеллекта. По их оценке, с их применением искать проблемы и несовершенства в коде становится проще и быстрее.
Показательный пример из практики: модуль, написанный несколько лет назад и на тот момент не содержавший уязвимостей, при анализе современными ИИ-инструментами оказался уязвим. Код не менялся — просто методы его анализа стали значительно совершеннее, и то, что раньше оставалось незамеченным, теперь можно найти и вовремя закрыть.
Значит ли это, что базовые практики ИБ теряют значение?
Нет, скорее наоборот — код-ревью перед релизами и регулярный пентест не теряют актуальности и в эпоху ИИ, а становятся даже важнее: инструменты анализа развиваются быстрее, чем меняется сам код, а значит, к старым модулям стоит возвращаться регулярно. Проблема в том, что позволить себе такой уровень зрелости процессов может не каждая компания, а значит, у бизнеса с ограниченными ресурсами риски будут выше. У штатной команды всегда есть рамки: определенное окно на тесты, чтобы ничего не сломать в проде, и обязанность оставаться в границах правил. У атакующей стороны таких ограничений нет, поэтому первый удар примет на себя как раз наименее защищенный бизнес.
Готовы ли вы к сценарию, при котором регулятор ограничит использование зарубежных ИИ-моделей для защиты?
Да, мы готовимся к этому заранее: обучаем сотрудников безопасной работе именно с отечественными языковыми моделями, а параллельно разрабатываем фильтры, которые должны исключить передачу персональных данных в зарубежные LLM. По сути, это уже требование законодательства — трансграничная передача таких данных запрещена 152-ФЗ «О персональных данных», а метода обработки, который позволял бы делать это легально, у нас просто нет: любая такая передача автоматически станет нарушением.
Методология защиты от дипфейков: ставка на естественный интеллект
Отдельно хочется поговорить про атаки, нацеленные на сотрудников, — этой теме вы с коллегами из ИБ-направления уделяете много внимания: курсы, рассылки, вебинары…
Логика простая: злоумышленник атакует там, где проще, а самое слабое и наименее защищенное звено информационной инфраструктуры компании — это люди. Поэтому основная работа должна вестись именно с сотрудниками. Около двух лет назад мы начали массово прокачивать сотрудников в этом направлении, но перед этим провели серьезную подготовительную работу.
Эта работа у нас выстроена на двух принципах:
• Во-первых, открытость службы ИБ к сотрудникам. Люди не должны бояться прийти и рассказать о своей проблеме или ошибке. Они должны знать, что получат поддержку, а не будут восприняты как «виноватые». За нарушение внутренних требований сотрудника, может, и пожурят, но, если он сам пришел, рассказал, был открыт, у службы ИБ появляется диалог и запас времени, чтобы противодействовать атаке, пока она еще разворачивается.
• Во-вторых, личная ценность цифровой гигиены. Здесь важно сместить фокус внимания сотрудника: соблюдение простых правил безопасности нужно не «дяде» из соседнего отдела и не абстрактной компании, а прежде всего ему самому. Мы объясняем, что базовые навыки кибергигиены, которые сотрудник осваивает на работе, точно так же защищают его лично, а заодно и его близких — родителей, детей, — от тех же самых мошеннических схем в обычной жизни, вне офиса. Когда человек понимает, что информация о киберугрозах имеет ценность лично для него, а не только для отчетности службы безопасности, меняется и его отношение к правилам: он начинает соблюдать их не из страха наказания, а из личной заинтересованности.
Такой подход дает результат: буквально в течение года удалось выстроить нормальное, рабочее взаимодействие с сотрудниками. Мы регулярно рассказываем им о новых схемах мошенничества, а сотрудники в ответ сами приходят, делятся записями подозрительных звонков и рассказывают о дипфейках, с которыми сталкиваются, — это стало для нас источником информации о том, как против компании и холдинга организуются атаки с использованием поддельного видео и голоса.
А что с техническими средствами защиты от дипфейков?
Готового технического решения, которое полностью закрывало бы эту проблему, на рынке пока нет. Основной упор мы делаем на то, чтобы человек умел мыслить критически и понимал: цель злоумышленника — вывести его из равновесия и вынудить действовать импульсивно. Мы учим сотрудников в момент давления делать паузу и задавать себе простые вопросы: действительно ли это может происходить, почему обратились именно ко мне, укладывается ли это в обычный порядок вещей, не стоит ли с кем-то посоветоваться. Как только человек выходит из сценария, который выстраивает вокруг него злоумышленник, и обращается к коллегам или к экспертам по безопасности, ситуацию, как правило, уже можно взять под контроль.
А если атака бьет не по конкретному сотруднику, а по репутации всей компании — например, в соцсетях появляется фейковый аккаунт с дипфейком от имени руководителя?
Пока мы не фиксировали, чтобы злоумышленники использовали этот вектор именно против нас — вбросов от имени руководства о продаже банка, вхождении в какую-то новую группу и тому подобного не было. Но специально это не отпускаем: в рамках ежегодных пентестов у нас есть отдельный OSINT-модуль — поиск и мониторинг по открытым источникам, — который как раз должен подсветить подобную активность на ранней стадии. Даже без подтвержденных инцидентов такой канал атаки нужно держать под контролем, чтобы обезопасить себя со всех сторон.
Взгляд в будущее: агентный пентест
Каким видится развитие автоматизации в сфере ИБ?
Полностью автономный «агентный» пентест — перспективное направление, и здесь мы во многом рассчитываем на вендоров, которые будут развивать инструментарий. Но агентный подход — это в первую очередь вопрос процессов. Как только появится автоматизированный пентестер, полностью построенный на агентах, он должен от начала до конца понимать, что делает: идти по заданному алгоритму, использовать определенные правила — стандартные и нестандартные, — но все это должно быть заранее описано. Нужен человек или команда, которая задаст агентам правильное направление работы. В противном случае есть риск, что агенты разбредутся в разные стороны и начнут действовать несинхронизированно.
Возможно, в будущем это заработает в полную силу, но сейчас важнее подготовить для этого базу: выстроить и задокументировать процессы, на которые такая автоматизация сможет опереться.
И напоследок — куда, на твой взгляд, сместится фокус атак в ближайшее время?
Выделю несколько тенденций:
1. Приток новичков в киберпреступность. ИИ как доступный и по-своему простой в использовании инструмент будет привлекать в «темную сторону» все больше начинающих. Организаторы атак будут завлекать их обещаниями «с этим инструментом можно сломать что угодно» и мнимой безопасностью — «тебя прикроют, ты неприкасаемый». Похожая модель уже работает, например, с хактивистами: ими нередко управляют кураторы, которые убеждают, что «все максимально секьюрно» и поймать их не смогут. С доступностью ИИ-инструментов эта схема рискует распространиться на куда более широкую аудиторию.
2. Дипфейки продолжат совершенствоваться. Атаки с использованием синтезированного голоса и видео не остановятся: люди пока не научились полностью им противостоять.
3. Поиск уязвимостей с помощью ИИ ускорится. Причем это касается и атакующей, и защищающей стороны. По нашей собственной практике этот тренд уже заметен и в перспективе года точно сохранится.
4. Новые цифровые активы окажутся в фокусе внимания злоумышленников. Если появляется актив, который можно украсть, — например, цифровой рубль, — злоумышленники будут применять для этого весь доступный инструментарий, включая искусственный интеллект.
Спасибо Алексею за разговор! Если в вашей компании тоже приходится противостоять ИИ-атакам или выстраивать защиту от таковых, делитесь опытом в комментариях.
Автор: kmordanov
