Эксперты UserGate обозначили деталь, которая выдаст дипфейк за секунду

Эксперт UserGate Светлана Газизова проанализировала актуальные индикаторы дипфейков и назвала признак, по которому сегодня можно распознать видеозвонок от мошенника за секунды. Как оказалось, генераторы до сих пор не умеют подделывать биомеханику обычной пряди волос.

Мошенники клонируют внешность, мимику и голос родственника или руководителя своей жертвы за минуты. Но физика мягкого тела ИИ пока неподвластна: различные его части реагируют на нагрузку неравномерно, с задержкой и собственной инерцией. Волосы — наглядный тому пример: тысячи независимых нитей, при этом у каждой своя масса, жёсткость и демпфирование; прядь у виска запаздывает относительно пряди на затылке, отдельные волоски вибрируют от потока воздуха, который создаёт движение головы. Этот лёгкий хаос зрение ^[1] считывает как «живое».

«Генеративная модель пока не умеет считывать биомеханику волос. Она не решает уравнения движения мягкого тела для каждой пряди, а только статистически угадывает следующий кадр. Тысяча независимых частиц с трением и инерцией не воспроизводится статистическим усреднением: чтобы подделать биомеханику волоса “честно”, её придётся честно посчитать, — а это подчас дороже, чем сгенерировать само лицо», — комментирует Светлана Газизова, владелец продукта по безопасности ИИ UserGate.

Когда модель усредняет тысячи траекторий, множество деформаций превращается в движение одного жёсткого объекта. Специалисты по детекции описывают это безошибочно: «волосы двигаются единым куском, будто приклеенным шлемом».

При этом ни один признак не даёт стопроцентной уверенности: реальное видео может выглядеть странно из-за сжатия или плохой связи, а качественный дипфейк — не показать дефектов. Физика мягких тел, как отмечает Газизова, — пока скорее наблюдение практиков, чем академический стандарт. Рецензируемых научных исследований, измеряющих точность этого признака на больших датасетах, на сегодняшний день нет, поясняет эксперт. Индикаторы дипфейков, в свою очередь, со временем теряют актуальность. Так, например, ещё несколько лет назад надёжным признаком считался артефакт апсемплинга в частотном спектре GAN-моделей, однако позднее индустрия перешла на диффузионные модели, и след почти исчез. Поэтому задача проверок — повысить уровень подозрения до того, как эмоция ^[2] превратится в действие.

Эксперт советует превратить в привычку оценку видео по пяти индикаторам:

1. Физика вокруг лица. В реальной жизни при повороте головы волосы запаздывают и продолжают движение, серьги качаются, складки одежды меняются, блики на очках движутся согласованно со светом. Ищите не «некрасивость», а потерю причинно-следственной связи.

2. Сбои во времени. Замедлите ролик и посмотрите несколько секунд подряд: не «плывут» ли контур лица, линия волос, зубы, родинки, фон. Особенно показательны повороты в профиль, быстрые движения и моменты, когда лицо перекрывается рукой или предметом.

3. Изображение и звук. Совпадают ли губы с темпом речи, есть ли естественные вдохи и паузы? Слишком ровный голос, странная интонация или одинаковый фоновый шум во всех паузах повышают подозрение.

4. Нарушьте сценарий живого звонка. Попросите собеседника повернуться в профиль, провести рукой перед лицом, отойти от камеры или повторить случайную фразу. Неожиданное действие одновременно проверяет лицо, глубину сцены, перекрытия и способность реагировать ^[3] в реальном времени.

5. Проверяйте не ролик, а ситуацию. Найдите первоисточник, сделайте обратный поиск по ключевому кадру. Если вас подталкивают к переводу денег, раскрытию кода, скачиванию файла или срочному решению, — остановитесь и свяжитесь с человеком по заранее известному независимому каналу.

UserGate также рекомендует проводить короткие обучающие сессии для сотрудников, принимающих решения по видео, и отслеживать обновления дипфейк-генераторов.

«Дипфейк — больше не экзотика из новостей, это рабочий инструмент мошенника, и он уже стучится в ваши видеоконференции. Мы хотим выработать у сотрудников простой рефлекс ^[4]: увидел видео, в котором тебя просят перевести деньги или выдать доступ, — посмотри на волосы, серьги и складки одежды. Это как посмотреть по сторонам, прежде чем перейти дорогу», — резюмирует Светлана Газизова.