Google DeepMind открыл публичный детектор SynthID для проверки медиафайлов на скрытые водяные знаки

Компания Google DeepMind официально запустила в открытый доступ сайт synthid.com ^[1]. Теперь любой пользователь интернета может загрузить изображение, аудиозапись или видеоролик, чтобы проверить наличие фирменной криптографической маркировки искусственного интеллекта ^[2]. Ранее доступ к этой системе предоставлялся исключительно аккредитованным журналистам и организациям по проверке фактов.

Путь к сегодняшнему релизу занял чуть больше трех лет. Летом 2023 года Google впервые представил технологию SynthID для защиты картинок, создаваемых нейросетью Imagen на облачной платформе Vertex AI. В конце 2023 года аналогичную защиту интегрировали в генератор музыки Lyria, вшивая неслышимый код в звуковые волны.

Весной 2024 года разработку расширили на генератор видео Veo, а также выложили открытый модуль для текстовых моделей. В течение прошлого года инструмент тестировался в закрытом пуле исследователей, попутно привлекая партнеров уровня OpenAI и NVIDIA. Сегодняшний запуск портала synthid.com сделал технологию общедоступной для всей мировой аудитории.

В отличие от стандартных чекеров, которые пытаются угадывать синтетическую графику по артефактам и размытиям, сервис работает по принципу считывания цифровой подписи. Во время генерации система внедряет в структуру пикселей или аудиодорожки скрытый псевдослучайный математический паттерн.

Человек его не замечает, однако детектор находит этот след даже после сильного сжатия файла, кадрирования или пересылки через социальные сети.