Дипфейк на связи: как мы защитили видеозвонки на платформе IVA MCU от мошенников

Меня зовут Татьяна Дешкина, я замдиректора по развитию продуктов в VisionLabs. Вместе с Дмитрием Журавлёвым, директором продукта IVA MCU в IVA Technologies, мы расскажем, как детектор дипфейков ^[1] VisionLabs защищает видеозвонки на платформе IVA MCU: какими бывают дипфейки, как устроена детекция и почему она нужна, даже если у вас уже настроена вроде бы надёжная защита ВКС.

Но прежде чем перейти к кейсу, дам короткую вводную лекцию о проблеме и технологии.

Дипфейки ближе, чем вам кажется

Сегодня недостаточно просто подключиться по ссылке — нужно быть уверенным, с кем именно вы общаетесь. Мошенники освоили цифровую маскировку, и речь давно не только о бытовых сценариях типа «мама, я попал в аварию, скинь денег на карту». Дипфейки используют не только для разового выманивания денег у частного лица, но и для проникновения на корпоративные онлайн-встречи — чтобы выудить конфиденциальные данные, получить доступ к аккаунтам или заключить фиктивные сделки на суммы, которые бытовому мошенничеству и не снились.

Показательный кейс: в феврале 2024 года мошенники обманули ^[2] филиал международной компании в Гонконге, создав дипфейк-версию финансового директора. В результате видеозвонка с «руководителем» были незаконно переведены $25,6 млн.

О таких историях слышно куда реже, чем о звонках мошенников бабушкам, и дело не в том, что они редкость. Как и банки, которые добровольно редко когда выпускают в публичное поле взломы, компании, пострадавшие от дипфейк-атак, почти не афишируют инциденты. Огласка бьёт по репутации, привлекает внимание ^[3] регуляторов, инициирует активность конкурентов и потенциально провоцирует новую волну атак на ту же организацию: злоумышленники увидят, что схема сработала. Поэтому большинство таких случаев либо не выходит за пределы внутреннего разбирательства и страховых выплат, либо просачивается в публичное поле только тогда, когда скрыть уже не получается, — как в кейсе с Гонконгом.

Сценариев много — от подмены сотрудника на внутреннем созвоне до фейкового клиента, подтверждающего банковскую операцию. Чем больше операций переходит в онлайн, тем выше риск цифровой подмены.

Как работают дипфейки

Дипфейк — сгенерированный с помощью нейросети визуальный или аудиоконтент. На текущий момент наиболее популярны диффузионные модели, также можно встретить GAN/StyleGAN для создания дипфейков лиц. Технологию используют как в безобидных целях (например, в медиа для дубляжа), так и для атак с подменой личности: финансового мошенничества, обхода биометрической верификации, ударов по репутации.

Мы работаем как с визуальными, так и с аудиодипфейками. Внутри каждой из этих модальностей скрывается свой набор методов генерации. Свели их все в таблицу с кратким описанием. 

Наша технология детекции дипфейков распознаёт все перечисленные типы визуальных подделок. В основе — глубокие нейросети, обученные на больших размеченных выборках реальных и синтетических данных. Модель ищет статистические артефакты генерации, невидимые невооружённым глазом.

За аудиодипфейки отвечает отдельный модуль антиспуфинга, встроенный в платформу Audiogram ^[6] от MWS AI. Но поскольку в кейсе с IVA Technologies речь идёт именно о распознавании по изображению, подробный разбор антиспуфинга оставим для отдельной публикации. К слову, за счёт этого модуля возможен мультимодальный анализ: детектор может одновременно проверять лицо и голос спикера, что повышает устойчивость к комплексным атакам, где подделываются оба потока.

Детектор дипфейков работает в связке с проверкой liveness и детектором виртуальных камер. Проверка liveness защищает от физических фейков, определяя, что перед камерой реальный человек, а не распечатанное фото, видео с телефона или маска. Дипфейк-детекция же используется только для защиты от инъекционных атак и цифровых фейков. Виртуальные камеры — это специализированное ПО для подмены видеопотока, которое часто используется при дипфейк-атаках, соответственно, его тоже нужно обнаруживать.

Детектор может работать в режиме реального времени — с видеопотоком и изображениями, и постфактум — на изображениях и видеофайлах.

Точность детектора в промышленной эксплуатации достигает 99,3% (ROC-AUC). Модель обучена работать на разных кодеках и степенях сжатия изображений, подходит для работы с несколькими лицами в кадре и при дополнительных атрибутах лиц (например, если человек в очках).

Поставляется детектор в Docker и Kubernetes: два варианта поставки позволяют развернуть систему в корпоративной инфраструктуре, масштабировать и обрабатывать большие объёмы данных.

Зачем детектор дипфейков понадобился IVA Technologies

У IVA Technologies есть продукт IVA MCU — это российская корпоративная платформа видеоконференцсвязи (ВКС) и унифицированных коммуникаций. В общем-то, в ней реализованы стандартные механизмы контроля доступа: авторизация пользователей, ролевая модель, комната ожидания, шифрование данных, ограничения на подключение по доменам. Эти механизмы контролируют, кто получает доступ к сессии, но они не решают другую задачу — подтверждать, что человек в кадре действительно тот, за кого себя выдаёт. 

Ссылку на конференцию можно получить в обход технического периметра: через фишинг в мессенджере, взлом почты, социальную инженерию. В этом случае у злоумышленника оказывается легитимный доступ к сессии, а дальше в дело идёт дипфейк — попытка визуально или голосом выдать себя за другого участника. Детектор дипфейков работает на этом отдельном уровне: не «кто получил ссылку», а «кто именно сейчас в кадре».

Как это работает в видеоконференцсвязи

Наша технология дипфейк-детекции доступна для защиты видеоконференций и вебинаров на сервере IVA MCU. Она встраивается в пайплайн обработки видеопотока и позволяет выявлять попытки подмены личности прямо во время онлайн-встречи, а не постфактум.

Как это устроено технически

1. Захват потока. Участники подключаются к конференции на IVA MCU. Видеопоток формируется в реальном времени, как при обычной конференции, через браузер или клиентское ПО.

2. Выбор кадров из видеопотока. Платформа автоматически захватывает кадры видеопотока с периодичностью, которую задаёт администратор. Интервал настраивается на уровне конкретного мероприятия: 10 секунд, 30 секунд, 1 минута или 5 минут.

3. Анализ кадров. Кадры передаются по API в детектор дипфейков VisionLabs, развёрнутый в защищённом контуре. Каждый кадр проходит через модель компьютерного зрения ^[8], которая оценивает вероятность того, что изображение лица синтетическое. Тут мы работаем с базовым сценарием — обработкой изображений, так что оценка идёт на CPU в реальном времени, среднее время ответа при этом остаётся в пределах долей секунды.

4. Реакция ^[9] на срабатывание. Результат проверки (real/fake) возвращается в IVA MCU и отображается в колонке «Подлинность» в списке участников; администраторам и модераторам мероприятия приходит всплывающее уведомление.

Настройка интеграции выполняется в панели администрирования ^[10] сервера ВКС IVA MCU: Системные настройки → Настройки распознавания объектов: включение интеграции, API и URL, логин и пароль.

Как происходит обнаружение дипфейка:

1. В мероприятии настраивается функция проверки на дипфейк и выставляется частота проверки, например раз в 30 секунд.

2. У участника А всплывает уведомление о подозрении на использование дипфейка.

3. Организатор начинает наблюдать за этим участником.

4. Если уведомление сохраняется более 90 секунд, модератор отключает передачу видео и аудио у участника А, а также передачу ему видео и аудио от других участников. 

5. После этого модератор пытается подтвердить личность А — через переписку в чате или другим способом. 

6. Если подтвердить личность не удается, модератор удаляет участника А из мероприятия. 

7. Модератор меняет ссылку и ID мероприятия.

Такой алгоритм даёт возможность реагировать на угрозу без остановки всей видеосессии: под ограничение попадает только заподозренный участник, а остальные могут продолжать обсуждение. 

Вместо заключения

Чем больше рабочих процессов переходит в цифровую среду, тем важнее уметь проверять не только содержание сообщений, но и то, с кем именно мы взаимодействуем. При этом защита не должна превращаться в барьер для пользователей — в идеале она работает внутри привычных инструментов, абсолютно бесшовно. Мы задумывали именно такой процесс.

Вопросы, комментарии, предложения ждём в комментах.