Невидимые метки в AI-картинках 2.0: JPEG, blur, перерисовка и ошибки первого теста
После первой статьи в комментариях попросили больше технической части и меньше выводов по одной картинке. Разбираюсь, что SynthID переживает, что может разрушить метку и что вообще доказывает её наличие.В первой статье я проверил одно изображение через сторонний сервис и сделал из этого слишком широкий вывод. В комментариях предложили более нормальный набор тестов: JPEG-сжатие, resize, crop, blur, скриншот, повторную генерацию и анализ частотной области. Там же мне скинули reverse engineering SynthID. Так что здесь разбираемся уже не с одним сервисом, а с самой технологией.SynthID не определяет, «нарисовала ли это нейросеть»
В AI-картинках есть невидимые метки. Я проверил, как они работают и можно ли их удалить
heat map Вы генерируете картинку в нейросети, скачиваете PNG и открываете его.Никакого логотипа. Никакой надписи «создано ИИ». Никакой полупрозрачной плашки в углу.Обычное изображение.Но это ещё не значит, что внутри него ничего нет.
Разработчик нашёл способ удалять метки SynthID с AI-изображений
Разработчик провёл реверс-инжинирингу системы SynthID для маркировки сгенерированных изображений и нашёл способ удалять водяные знаки. После этого система проверки принимает AI-картинки за оригинальные.
ИИ-платформа ProducerAI стала частью Google Labs
ProducerAI официально вошёл в состав Google Labs. Платформа для создания и доработки музыки с помощью ИИ будет развиваться внутри Google.Об этом сообщил директор по продукту Google Labs Элиас Роман. Сервис доступен более чем в 250 странах
Google представила SynthID Detector — «портал проверки» контента на водяной знак SynthID
На конференции Google I/O компания Google анонсировала
