Как распознавать контент, созданный нейросетями (рекомендации для репортеров)

Надоел повсеместный нейрослоп? Мне тоже. Настолько, что даже захотелось поделиться с вами этой статьёй Хенка ван Эса с его рекомендациями журналистам – как можно вычислить картинки, сгенерированные нейросетями. Надеюсь, вам будет также интересно и полезно, как мне и моим друзьям и коллегам. Но меньше слов – больше Хенка ван Эса!

В наши дни соотношение полезного сигнала и шума в информационном пространстве приближается к единице. Иными словами, дезинформации почти столько же, сколько реальных фактов — и отличить одно от другого становится крайне трудно. Эти рекомендации помогут журналистам в условиях нехватки времени распознавать контент, сгенерированный с помощью ИИ. Предложенные семь категорий проверок полезно освоить каждому репортеру.

Я помогаю редакциям бороться с дезинформацией. И вот что меня особенно тревожит: обычная проверка фактов занимает несколько часов или даже дней, а ИИ способен производить фейковый контент за считаные минуты.

Введение в заблуждение посредством видео появилось за несколько десятилетий до современного бума ИИ. Даже технические ограничения записывающего оборудования иногда порождали ложные впечатления, приводящие к печальным последствиям. Так, в 2003 году няня Клаудия Муро была арестована и провела 29 месяцев в тюрьме по ложному обвинению: из-за низкой частоты кадров на записи с камеры видеонаблюдения ее спокойные движения выглядели как агрессия по отношению к младенцу, а саму запись никто не проверил. В январе 2025 года британская учительница Шерил Беннетт была вынуждена скрываться после появления дипфейк-видео, в котором она якобы произносит расистские высказывания.

Это изображение Папы Франциска I в белом пуховике Balenciaga стало вирусным и успело ввести в заблуждение миллионы пользователей соцсетей, прежде чем выяснилось, что его сгенерировали в Midjourney по текстовому запросу. На подделку указывали несколько деталей: например, распятие висит неестественно криво, а его цепочка обрывается — вместо ее продолжения видна только белая ткань пуховика. Пабло Ксавье, создатель изображения, пояснил в интервью для BuzzFeed News: «Мне просто показалось забавным представить Папу в смешной куртке».

Порой самые убедительные фейки вообще не требуют применения ИИ. Так, в мае 2019 года ролик со спикером Палаты представителей США Нэнси Пелоси замедлили до 75% от исходной скорости и изменили тональность голоса, чтобы создать впечатление, будто она пьяна. А в ноябре 2018 года Белый дом опубликовал ускоренную видеозапись, на которой корреспондент CNN Джим Акоста отстраняет практикантку Белого дома, удерживая микрофон, при этом ускоренное движение его руки выглядит как удар.

Недавно я создал полноценный фальшивый политический скандал — с ведущими новостей, возмущенными гражданами, кадрами протестов и вымышленным мэром — причем на это у меня ушло всего лишь 28 минут обеденного перерыва. И восемь долларов. Двадцать восемь минут — и сфабрикован политический кризис, который вполне мог бы одурачить редакторов, заваленных работой накануне дедлайна.

Для журналистов задача теперь не в том, чтобы найти стопроцентно точный ответ, а чтобы оценить вероятность и принять взвешенное редакционное решение.

На днях я видел, как опытный фактчекер уверенно признал «подлинным» изображение, созданное с помощью ИИ — просто потому что на нем была идеальная рука с пятью пальцами, а не шестью. Но сегодня этот критерий уже почти не актуален.

Такова суровая правда: приемы обнаружения ИИ-контента стремительно устаревают и теряют надежность. Первые генераторы изображений плохо рисовали руки: часто встречались лишние или сросшиеся пальцы, что помогало распознать картинки, созданные нейросетями. Несколько громких фейков, включая «арест Трампа» в 2023 году, удалось разоблачить отчасти благодаря таким очевидным огрехам. Однако к 2025 году крупные модели, такие как Midjourney и DALL-E, научились рисовать анатомически правильные кисти рук. Поэтому руки перестали быть надежным маркером — и тем, кто пытается распознать ИИ-контент, приходится опираться на другие, более тонкие признаки.

С отображением текста прогресс оказался еще стремительнее. Если раньше на ИИ-картинках красовались плакаты протестующих с абракадаброй вроде «STTPO THE MADNESSS» и «FREEE PALESTIME», то некоторые современные модели безупречно воспроизводят типографику. Команда OpenAI специально обучила DALL-E 3 точно изображать текст, а в Midjourney V6 даже есть платная функция «реалистичный текст». В итоге признак, который раньше позволял выявлять ИИ-контент, почти перестал работать.

Теперь редко увидишь перекошенные уши, неестественно асимметричные глаза и пририсованные зубы, которые раньше выдавали творения нейросетей. Еще в начале 2023 года генераторы часто и заметно ошибались при создании лиц. Сегодня с помощью тех же запросов к нейросетям можно создавать вполне правдоподобные лица.

Для новостных редакций это стало опасной ловушкой. Если журналист опирается на устаревшие методы обнаружения, актуальные для 2023 года, у него может появиться ложная уверенность и он будет признавать подлинным материал, явно созданный нейросетью. Такая ложная уверенность более опасна, чем честное признание неуверенности.

Знакомьтесь: помощник по проверке изображений

Мне стало интересно: смогу ли я в дополнение к этой статье создать помощника для обнаружения ИИ-контента. Я связался с экспертами. И даже не ожидал, что ученые погрузят меня в глубины физики: преобразования Фурье, квантовую механику нейронных сетей, математические сигнатуры, невидимые человеческому глазу. Один физик объяснил, что артефакты на сгенерированных изображениях — это не просто визуальные погрешности, а частотные закономерности.

Но когда дело дошло до практики, меня одернули. «Не пытайтесь создать инструмент самостоятельно, — предупредил один эксперт. — Нужны огромные вычислительные мощности и команда из докторов наук. Без такой инфраструктуры вы обречены на провал».

И тут меня осенило: можно ведь бороться с ИИ при помощи помощи ИИ, но по-особому! Не пытаться создать систему обнаружения за миллиард долларов, а использовать уже готовую инфраструктуру ИИ, переложив на нее все ресурсоемкие задачи.

Из этой идеи родился инструмент Image Whisperer (первоначальное название — Detectai.live) — помощник по проверке изображений. Он сочетает анализ посредством больших языковых моделей с обработкой в Google Vision: опирается на физические принципы, которыми со мной поделились эксперты, и при этом использует уже существующую вычислительную инфраструктуру. Самое главное: в отличие от большинства инструментов на базе ИИ, он прямо говорит «не знаю», а не пытается строить догадки.

Это не самый крутой инструмент, зато самый честный.

Семь направлений выявления ИИ-контента

В гонке вооружений между создателями ИИ-фейков и разоблачителями пока выигрывают создатели. Фору им дают разработчики ИИ-сервисов, которые постоянно совершенствуют свои технологии. Чтобы успешно выявлять дипфейки, необходимо сочетать несколько методов обнаружения, быть всегда начеку, а также признавать, что абсолютно точный вердикт бывает невозможен. Для журналистов задача теперь не в том, чтобы найти стопроцентно точный ответ, а чтобы оценить вероятность и принять взвешенное редакционное решение.

Журналистика всегда адаптировалась к меняющимся технологиям. Когда у каждого появилась возможность сделать свой сайт, мы научились тщательнее проверять источники. Когда социальные сети превратили всех в потенциальных репортеров, мы разработали процедуры проверки контента из соцсетей. Теперь нам предстоит разработать стандарты для эпохи, когда любой человек может создавать убедительные аудиовизуальные материалы.

Категория 1. Ошибки в анатомии и предметах: когда совершенство подозрительно

30-секундная проверка тревожных сигналов (экстренные новости). Когда времени мало, а вам нужно быстро оценить подозрительный кадр, прислушайтесь к своей интуиции: что здесь выглядит «неправдоподобно идеальным»? Обращайте внимание на безупречную ухоженность, которая характерна для глянцевых журналов, но невозможна или неуместна в данных условиях. Лидер протеста с безупречным макияжем, жертва катастрофы с идеальной укладкой или «непостановочный кадр», герои которого выглядит так, будто над ними поработала команда стилистов –– такие материалы должны сразу вызывать подозрение.

1.  Интуитивная проверка на идеальность. Не выглядит ли человек слишком ухоженным для этой ситуации?

2. Проверка на несоответствие контексту. Не слишком ли кадр «глянцевый» для зоны кризиса или конфликта?

3. Проверка реалистичности кожи. Нет ли эффекта ретуши: подозрительно ровная, «пластиковая» кожа там, где должны быть поры и мелкие несовершенства?

4. Общая оценка внешнего вида. Соответствует ли внешний вид происходящему?

Пятиминутная техническая проверка (обычные материалы). Это более глубокое исследование: оно сосредоточено на технических деталях, по которым можно распознать творения нейросетей. Современные ИИ-сервисы умеют создавать анатомически правильные изображения, но зачастую эта правильность стерильна и неестественна, что производит жутковатое впечатление. Лица реальных людей слегка асимметричны, на них заметны поры и морщинки, следы усталости — а нейросетям сложно все это воспроизвести.

1. Рассмотрите лицо в масштабе 100%. Видна ли живая текстура кожи (поры, морщинки), есть ли небольшая асимметрия?

2. Одежда и ткань. Видны ли естественные складки, фактура ткани, следы износа?

3. Пряди волос.  Видны ли отдельные пряди и волоски — или масса волос выглядит как на картине или в мультике?

4. Реалистичность украшений и аксессуаров. Есть ли ощущение трехмерного объема, отражений и теней, а не плоской компьютерной графики?

5. Зубы. Есть ли природные несовершенства или все зубы одинаково идеальны?

6. Общее впечатление идеальности. Соответствует ли уровень ухоженности заявленным обстоятельствам и месту действия? 

Глубокое исследование (когда цена ошибки высока). Если точность имеет первостепенное значение, относитесь к изображению как к вещественному доказательству и проверяйте его с тщательностью судебного эксперта. Задача в том, чтобы оценить вероятность на основании нескольких проверочных критериев. При этом надо понимать, что хотя стопроцентно точный вердикт зачастую невозможен, результат оценки позволяет принять взвешенное решение.

1. Сравнительный анализ. Найдите другие фотографии того же человека и сопоставьте, насколько естественно или искусственно он выглядит там и здесь.

2. Пиксельный анализ. Используйте профессиональные инструменты, чтобы изучить текстуру кожи на уровне пикселей и проверить, нет ли неестественных повторяющихся паттернов.

3. Сверка контекста. Проверьте, бывает ли этот человек столь же безупречно ухожен на других фото в похожих обстоятельствах.

4. Профессиональная консультация. Обратитесь к профильным специалистам (таким, как Фарид Хани, чтобы провести экспертный анализ.

5. Найдите другие ракурсы того же события. Дополнительные фото и видео помогут проверить непротиворечивость деталей.

6. Историческое сравнение. Сравните изображение с верифицированными фотографиями этого человека из того же периода и в похожих обстоятельствах.

Категория 2. Физические и геометрические ляпы: когда ИИ игнорирует законы природы

Суть. ИИ собирает изображения из фрагментов — работая как художник-коллажист, а не фотограф. Нейросеть умеет воспроизводить внешний вид объектов, но может нарушать правила геометрии и законы физики, искажая перспективу и области светотени. Причина в том, что ИИ-сервисы не создают точную геометрическую модель трехмерного пространства и освещения. 

ИИ-картинки «не дружат» с физикой. Генеративный ИИ пока еще находится на ранних этапах своего развития, и лишь частично умеет изображать перспективу, тени и отражения. На типичном примере, созданном с помощью DALL-E 2 от OpenAI, видно: тени не согласованы между собой, отражения нереалистичны или отсутствуют, а в отраженной сцене тени падают в неверном направлении.

Проверка точки схода. Реальные здания следуют законам перспективы: параллельные линии сходятся в одной точке на горизонте. ИИ часто рисует здания, линии крыш которых ведут влево, а линии окон — вправо. Это физически невозможно и указывает на то, что изображение было склеено из кусочков, а не снято камерой. Поэтому проверяйте, сходятся ли параллельные линии к одной точке схода.

Проверка согласованности теней. Где есть свет, должны быть и тени. Казалось бы, всё просто: объекты, тени и источники света связаны понятными правилами. Но при монтаже и генерации именно здесь часто появляются ошибки. В сценах с одним источником света (типичный пример — дневной солнечный свет) все объекты должны отбрасывать тени в одном направлении — от источника света. В ИИ-картинках эта закономерность часто нарушена: солнце одно, но разные люди отбрасывают тени в разных направлениях, что физически невозможно.

Подтверждение исследованиями. Научные исследования подтверждают наличие таких геометрических ошибок в материалах, созданных нейросетями. Анализ с использованием метода Grad-CAM показал, что на сгенерированных изображениях сцен под открытым небом машины часто отбрасывают тени в разных направлениях, а линии схода искажены. В интерьерных сценах объекты и их тени не согласованы, а геометрия помещения «плывет».

Такая тщательная проверка требует терпения: придется очень внимательно изучать линии.

30-секундная проверка тревожных сигналов

1. Найдите фотографию прямых рельсов, уходящих вдаль (погуглите «railroad tracks perspective» или «рельсы перспектива»).

2. Откройте фото в MS Paint или любом другом простом редакторе изображений.

3. Наложите на рельсы две прямые линии и продлите их до горизонта.

4. В реальности эти линии должны сойтись в одной точке на горизонте (точке схода).

Теперь у вас есть визуальный ориентир: вот так выглядит правильная перспектива.

Пятиминутная техническая проверка (обычные материалы)

Проверка перспективы:

1. Выберите ОДНО здание на изображении.

2. В любом редакторе изображений продлите ключевые линии (кромки крыши, линии окон и карнизов) в сторону горизонта.

3. Проверьте, сходятся ли линии, наложенные на здание, в одной точке.

4. Если у одного здания получилось несколько разных точек схода — это типичный признак сгенерированного изображения.

Анализ теней:

1. Найдите главный источник света (его выдают самые яркие блики).

2. Проведите линии от источника света через вершины объектов до концов их теней.

3. Проверьте, все ли тени направлены в одну сторону.

4. Если тени направлены в разные стороны, это нарушает законы физики.

Глубокое исследование (когда цена ошибки высока)

Проверка отражений. Когда объекты отражаются на плоской поверхности, линии, соединяющие точку на объекте с соответствующей точкой в отражении, при большинстве условий сходятся к единой точке схода.

1. Найдите на изображении отражающие поверхности (вода, стекло, зеркала).

2. Проведите линии, соединяющие объекты с их отражениями.

3. Проверьте, пересекают ли эти линии отражающую поверхность под прямым углом.

4. Если отражения расположены неправильно, это отчетливый признак сгенерированного изображения.

Категория 3. Технические следы и анализ пикселей — математические улики

Суть. Когда ИИ создает изображение, в файле остаются технические следы — неочевидные математические закономерности в пикселях и признаки компрессии, которые можно найти с помощью инструментов цифровой криминалистики. Такие цифровые улики указывают на то, что изображение было сгенерировано, а не сфотографировано.

Обнаружение шумовых паттернов. На реальных снимках присутствуют естественные несовершенства, в том числе крохотные хаотичные пятнышки — сенсорный шум камеры. А на сгенерированных изображениях эти пятнышки расположены упорядоченно. Когда эксперты анализируют такие паттерны с помощью специальных программ, они видят характерные звездоподобные формы, которые никогда не появились бы на реальной фотографии. Это как разница между по-настоящему случайным «снегом» от статического электричества на старом телевизоре и попыткой сымитировать его на компьютере: на вид похоже, но при проверке с помощью специальных инструментов обнаруживается упорядоченность.

Поиск следов копирования. Если фрагменты картинки были продублированы (неважно, человеком или генератором), между ними появляются нетипичные совпадения на уровне пикселей. Разные участки оказываются подозрительно похожими, что нехарактерно для естественной текстурной повторяемости. Такие паттерны и математические закономерности можно обнаружить.

Анализ артефактов сжатия. ИИ-контент часто демонстрирует неестественные паттерны сжатия, которые отличают его от необработанных файлов, полученных с камеры. Так можно распознать, что изображение — продукт работы алгоритмов, а не прямой оптической съемки.

Профессиональные инструменты обнаружения. Решения TrueMedia.org позволяют проверять сомнительные материалы и находить дипфейки в разных форматах: аудио, фото и видео. Примеры дипфейков, недавно определенный с помощью TrueMedia.org: изображение якобы ареста Дональда Трампа и поддельное фото президента Байдена с военными высшего ранга.

30-секундная проверка тревожных сигналов

Прежде чем анализировать подозрительные изображения, потренируйтесь на примере, в котором вы уверены:

1. Загрузите свою фотографию в ассистент верификации фотографий.

2. Сервис оценит вероятность подделки.

3. Если вероятность подделки составляет 70% или выше, исследуйте изображение более глубоко.

Пятиминутная техническая проверка (обычные материалы)

1. Визуальная проверка текстуры. Увеличьте масштаб изображения до 100% на участках, где есть кожа или небо. Внимательно рассмотрите текстуру: есть ли в ней случайность и неровность реального мира или она выглядит слишком гладкой и «математически идеальной»? В настоящих фото есть естественная хаотичность, а ИИ часто создает подозрительно однородные паттерны.

2. Автоматизированный инструмент обнаружения. Загрузите изображение на TrueMedia.org (бесплатный сайт). Специальное ПО для обнаружения ИИ анализирует те скрытые математические закономерности, о которых мы говорили ранее. По итогу инструмент выдает процентную оценку вероятности того, что изображение создано с помощью ИИ.

3. Проверьте метаданные файла. Щелкните правой кнопкой по названию файла и выберите «Свойства» (Windows) или «Сведения» (Mac). Изучите метаданные: они указывают, когда и с помощью какого программного обеспечения был создан файл. ИИ-картинки часто содержат временные метки ПО для редактирования и упоминания творческих инструментов, которые не совпадают с предполагаемой историей о том, когда и как был сделан снимок.

4. Анализ гладкости поверхностей. Это не то же самое, что проверка текстур. Здесь нужно рассмотреть поверхности, которые в реальности должны быть неидеальными–– стены, ткань или воду. ИИ склонен ретушировать такие поверхности, делая их неестественно гладкими там, где на реальной фотографии были бы небольшие неровности, отклонения или следы физического износа.

Каждый шаг позволяет выявить разные типы ошибок ИИ. Такой набор проверок позволяет делать выводы с уверенностью.

Глубокое исследование (когда цена ошибки высока)

Forensically — это набор бесплатных комплексных инструментов для анализа шумовых следов, включая визуализацию спектра (частот).

Частотный анализ — технический метод выявления математических паттернов, характерных для ИИ.

Категория 4. Голос и звуковые артефакты: как синтетическая речь выдает себя

Анализ сгенерированного аудиодипфейка речи Дональда Трампа. Изображение: YouTube, Хенк ван Эсс

Суть. Технология клонирования голоса может воспроизвести голос любого человека на основе нескольких секунд аудио, но она оставляет следы искусственной генерации, которые можно обнаружить в речевых паттернах, эмоциональной правдоподобности и акустических характеристиках. Хотя синтетические голоса достигают впечатляющей точности, им все еще трудно воспроизводить тонкие элементы, характерные для настоящей человеческой речи.

Реальные случаи аудиомошенничества. В марте 2019 года генеральному директору британской энергетической компании позвонил его «босс» и запросил большой денежный перевод. Голос звучал убедительно, с правильным немецким акцентом. Только благодаря подозрительному второму звонку с австрийского номера стало ясно, что это имитация с помощью ИИ. Более свежий пример: политконсультант Стивен Крамер заплатил 150 долларов за дипфейк-автообзвонот лица Джо Байдена. Сообщение агитировало избирателей не участвовать в праймериз Демократической партии в Нью-Гэмпшире в 2024 году.

Скорость и стоимость создания аудиофейков. По материалам иска против Крамера, создание дипфейка заняло менее 20 минут, а себестоимость составила всего 1 доллар. Сам Крамер в интервью CBS News утверждал, что получил «медийный эффект на 5 миллионов долларов».

Признаки ненатуральной речи. Линдси Горман, изучающая новые технологии и способы дезинформации, рассказала в интервью NBC News, что аудиодипфейки часто содержат характерные признаки: «Ритм и интонация, особенно к концу записи, становятся неестественными, как у робота. Это позволяет заподозрить, что аудио поддельное.»

• Признаки, на которые стоит обращать внимание: Слишком ровный темп без естественных пауз, вдохов и микрозадержек;

• Безупречное произношение без оговорок и мелких ошибок живой речи;

• Роботизированная интонация на отдельных словах или фразах;

• Отсутствие фонового шума окружающей среды;

• Фразы или термины, которые человек в реальности никогда бы не использовал.

Лингвистические нестыковки. В одном из ранних дипфейков ИИ сказал «фунтов тридцать пять тысяч», поставив тип валюты перед числом — это характерно для письменных текстов на английском языке, но неестественно для звучащей речи. 

30-секундная проверка тревожных сигналов

Попробуйте Hiya Deepfake Voice Detector — простое расширение для Chrome (до 20 проверок в месяц). Оно хорошо показало себя при анализе видео с Трампом и Байденом.

Расширение слушает звук прямо в браузере и в реальном времени оценивает, похож ли голос на человеческий или на синтезированный искусственным интеллектом.

Вот как оно работает:

• Анализирует голоса на видео и аудио, которые вы проигрываете в браузере Chrome.

• Выдает результат почти сразу: достаточно одной секунды речи.

• Работает на любых сайтах — от соцсетей и новостных каналов до видеосервисов.

• Обнаруживает речь, созданную всеми популярными инструментами синтеза голоса на базе ИИ.

• Поддерживает много языков.

• Проверяет «на лету», пока вы проигрываете трек.

Предупреждение: поскольку расширение использует вероятностные алгоритмы, результат не будет на 100% точным в каждом случае.

Пятиминутная техническая проверка (обычные материалы)

1. Оцените естественность речи: есть ли ощущение, что это нормальная человеческая скорость и произношение?

2. Проверьте факты: мог ли этот человек действительно сделать такое заявление в указанное время?

3. Проверьте подлинность эмоций: соответствует ли эмоция содержанию и контексту?

4. Перезванивайте по официальному номеру, чтобы подтвердить любые срочные просьбы, переданные голосом.

5. Задавайте контекстные вопросы, ответы на которые может знать только настоящий человек.

 Глубокое исследование (когда цена ошибки высока)

• Скачайте полную версию аудиозаписи.

• Сделайте транскрипт через Notta.ai.

• Параллельно соберите 5–6 записей или транскриптов того же человека, подлинность которых подтверждена.

• Загрузите их в Claude и попросите провести семантический анализ, чтобы выявить типичные темы, словарный запас, грамматические конструкции, манеру формулировок, интонацию.

• Затем загрузите в Claude транскрипт сомнительной записи и попросите сравнить ее с эталоном на предмет отклонений от нормы. 

Категория 5. Хронологическая и контекстная логика — когда ИИ упускает общую картину

Суть. ИИ создает изображения, опираясь на визуальные паттерны, но без понимания реального контекста, временной логики и уместности ситуации. Такой контент выглядит убедительно при беглом взгляде, но не выдерживает тщательной проверки.

Поддельное видео иранской тюрьмы. Распространялось видео, которое якобы показывало израильский ракетный удар по тюрьме Эвин в Иране. На самом деле ролик был сгенерирован по фотографии 2023 года. Подделку выдали простые несостыковки: дело происходит летом, но на деревьях нет листвы; детали совпадают слишком идеально; а заявленный тайминг события не складывается.

30-секундная проверка тревожных сигналов. ИИ создает правдоподобный визуальный контент, но часто упускает фундаментальные логические связи между временем, местом и обстоятельствами. При подготовке экстренных новостей опирайтесь на свое знание мира, чтобы заметить противоречия и понять, где потребуется более глубокая проверка.

1. Проверка соответствия сезона и погоды. Соответствуют ли растительность, одежда и освещение заявленной дате и месту?

2. Сверка по технологической эпохе. Есть ли устройства, транспортные средства или инфраструктура, которые не принадлежат этой эпохе?

3. Интуитивная проверка географии. Соответствуют ли архитектура, знаки, вывески и ландшафт заявленному месту?

4. Быстрая оценка достоверности источника. Соответствует ли происхождение контента его уровню сложности? Мог ли автор получить доступ к месту события?

Пятиминутная техническая проверка (обычные материалы). Это более глубокий анализ, где вы используете свои исследовательские навыки для сверки утверждений с достоверными фактами. ИИ плохо справляется со взаимосвязанностью событий реального мира: он может создавать внешне правдоподобный контент, который «сыпется» при логической проверке и сопоставлении с внешними источниками данных.

1. Проверка исторических данных о погоде. Проверьте архивные данные о погоде для заявленной даты и места, сравните их с изображением.

2. Сверка по архитектурным ориентирам. Проверьте, существуют ли видимые здания, знаки, вывески и инфраструктура в заявленном месте.

3. Оценка культурного контекста. Проверьте, соответствуют ли стиль одежды, поведение и социальные взаимодействия географическому и культурному контексту.

4. Оценка вероятности совпадения по времени. Узнайте, могли ли заявленные события происходить одновременно.

5. Анализ путей распространения. Проследите, как распространялся данный контент, и сравните с типичными схемами распространения информации о подобных событиях.

6. Поиск с других ракурсов. Найдите другие свидетельства того же события из независимых источников.

Глубокое исследование (когда цена ошибки высока). Для особо важных историй рассматривайте контекстные улики как элементы криминалистического паззла, каждый из которых нужно тщательно сверить с установленными фактами. Такой комплексный подход позволяет дать вероятностную оценку подлинности, основанную на совокупности логических несоответствий, а не на одном «железном» доказательстве.

1. Всестороннее восстановление хронологии событий. Составьте подробную последовательность заявленных событий и сопоставьте ее со всеми визуальными элементами.

2. Проверка географической информации. Используйте спутниковые снимки, панорамы улиц и мнение тех, кто хорошо знает эту местность, чтобы подтвердить достоверность локации.

3. Криминалистическая экспертиза времени года и окружающей среды.Проконсультируйтесь с ботаниками, метеорологами и местными источниками по поводу условий окружающей среды.

4. Оценка культурной подлинности.  Попросите региональных экспертов проверить нормы поведения, манеру одеваться и социальные обычаи, которые присутствуют в материале.

5. Выявление технологических анахронизмов. Убедитесь, что все устройства, транспортные средства и инфраструктурные объекты существовали в заявленном месте в это время.

6. Исследование цепочки источников. Проследите полную историю распространения материала и сравните его с известными схемами оповещения о подлинных событиях подобного рода.

7. Привлечение экспертов. Узнайте экспертное мнение местных журналистов, ученых и чиновников, знакомых с заявленным местом или ситуацией.

8. Построение матрицы вероятностей. Оцените каждый логический элемент и сформируйте комплексное заключение о подлинности контента. 

Категория 6. Поведение и социальная динамика — когда ИИ ошибается в людях

Суть. ИИ может убедительно воспроизводить внешность людей, но затрудняется правдоподобно передавать человеческое поведение, социальную динамику и естественные шаблоны взаимодействия. Из-за этого в сценах с толпой, групповыми взаимодействиями и индивидуальным поведением возникают заметные несостыковки, которые способен распознать подготовленный наблюдатель.

30-секундная проверка тревожных сигналов (экстренные новости). Толпы, сгенерированные ИИ, на первый взгляд выглядят правдоподобно, но при ближайшем рассмотрении зачастую становится заметно неестественное поведение людей. Когда вы имеете дело с экстренными новостями, обратите внимание на поведение людей: как действовали бы при данных обстоятельствах реальные люди, а не запрограммированные цифровые актеры?

1. Проверка на однородность толпы. Не слишком ли много людей похожего возраста, с однотипной внешностью или стилем одежды?

2. Проверка фокуса внимания. Все смотрят в одном направлении (например, на камеру) — или внимание людей естественным образом распределено по разным объектам?

3. Проверка уместности эмоций. Соответствуют ли выражения лиц предполагаемому настроению и интенсивности события?

4. Оценка реалистичности движений. Люди держат дистанцию и двигаются естественно — или выглядят как расставленные фигурки?

Пятиминутная техническая проверка (обычные материалы). Этот анализ опирается на понимание человеческой социальной динамики и помогает выявить слабые места ИИ при имитации группового поведения. В настоящей толпе есть микросцены, разные роли и реакции, а обучающие данные для ИИ не могут охватить всё их многообразие. Поэтому в сгенерированных массовых сценах, даже если они должны выглядеть спонтанно, нередко появляется заметная искусственная однообразность.

1. Проверка демографического разнообразия. Оцените диапазон возрастов, стили одежды, этнический состав персонажей: нет ли в них подозрительного однообразия?

2. Прослеживание социальных взаимодействий. Есть ли живые разговоры, микрогруппы, совместные действия людей — или людей будто поставили рядом?

3. Проверка реакции на окружающую среду. Адекватна ли реакция людей на погоду, освещение, уровень шума?

4. Проверка культурных особенностей поведения. Соответствуют ли стили взаимодействия и дистанция между людьми социальным нормам и заявленной обстановке?

5. Анализ выражений лиц отдельных людей. Обратите внимание на выражения лиц: насколько они уникальны, передают ли они естественные эмоции? Или заметна искусственная однотипность?

6. Оценка паттернов движения. Присутствует ли естественная асимметричность и индивидуальность в движениях — или толпа движется подозрительно плавно и синхронно?

Глубокое исследование (когда цена ошибки высока). При подготовке особо важных материалов внимательно проанализируйте поведение персонажей на предмет антропологической достоверности. С помощью этого подхода мы проверяем, могла ли сложная сеть человеческих взаимодействий реально возникнуть при заявленных обстоятельствах.

1. Социологический анализ толпы. Проконсультируйтесь с экспертами по психологии толпы, чтобы выяснить, насколько реалистична групповая динамика для заявленного типа события.

2. Проверка культурной подлинности. Опросите региональных специалистов о социальных нормах, манере одеваться и моделях взаимодействия.

3. Оценка демографической вероятности. Проверьте, соответствует ли состав толпы типичной аудитории похожих мероприятий.

4. Анализ поведения отдельных личностей. Проанализируйте отдельных людей: прослеживаются ли непротиворечивые роли, взаимоотношения в группах и правдоподобные эмоциональные реакции?

5.  Исследование адаптации к среде. Проверьте, соответствует ли реалистичным сценариям реакция толпы на погоду, звуки и происходящее.

6. Сравнение с историческими аналогами. Сопоставьте проверяемый материал с подтвержденными видео или фото похожих реальных событий в том же регионе и культурном контексте.

7. Привлечение экспертов. Подключите антропологов, социологов и местных журналистов, знакомых с социальной динамикой в регионе.

8. Анализ микровыражений лиц. Привлеките специалистов для оценки мимики, чтобы отличить подлинные эмоциональные реакции от искусственно сгенерированных.

9. Картирование социальных связей. Проследите взаимоотношения между людьми, чтобы оценить, выглядят ли группы естественно сформированными или собранными без видимой логики. 

Категория 7. Интуитивное распознавание закономерностей — навык, отточенный эволюцией

Суть. Наш мозг развивал способность распознавать паттерны на протяжении миллионов лет. В свою очередь, ИИ формирует паттерны на основе обучающих данных, с помощью алгоритмических процессов. Когда что-то нарушает естественные ожидания, встроенные в наше восприятие, мы сразу чувствуем: что-то не так. Интуиция часто является самым быстрым и надежным детектором, который помогает нам еще до этапа технического анализа.

Примеры того, когда чутье сработало. В 2019 году пользователи соцсетей быстро раскритиковали вирусную картинку про акулу на затопленной улице во время урагана Флоренс: она выглядела качественно, но неубедительно по контексту. Интуиция не подвела — обратный поиск изображений показал, что кадр был смонтирован. Точно так же опытные журналисты чувствуют, когда любительские кадры выглядят подозрительно кинематографично или когда спонтанное событие оказывается идеально задокументированным на фото или видео.

Интересный факт: за последние десять лет накопилось много мемов с акулами, якобы плывущими по городу во время урагана, но есть и один реально подтвержденный случай.

30-секундная проверка тревожных сигналов Когда времени в обрез, полагайтесь на интуицию. Замечайте, когда качество материала превосходит возможности любительской съемки, а хаотичные события почему-то идеально задокументированы. Умение распознавать закономерности, заложенное в вас природой, часто позволяет обнаружить такие нестыковки задолго до того, как их подтвердит технический анализ.

1. Первое впечатление. Изображение ощущается настоящим или сгенерированным? Доверяйте так называемому эффекту «зловещей долины» — чувству дискомфорта от искусственных объектов, которые сильно (но не полностью) похожи на человека.

2. Парадокс качества. Мог ли очевидец-непрофессионал снять материал кинематографического качества? (Как мы помним, сегодня сфабриковать убедительно выглядящий политический скандал можно всего за 8 долларов).

3. Проверка на идеальный тайминг. Возникает ли ощущение, что камера слишком часто оказывается в нужное время в нужном месте?

4. Тест на эмоциональную манипуляцию. Для чего создан контент: проинформировать о фактах или же вызвать эмоциональную реакцию и побудить к быстрому репосту?

Пятиминутная техническая проверка (обычные материалы). Подкрепите интуицию систематической проверкой: исследуйте конкретные элементы, которые вызвали сомнение. Когда ваше чутье подсказывает, что что-то не так, выясните, что именно нарушает ваши естественные ожидания, и соберите логические обоснования.

1. Глубокая проверка логики ситуации. Могло ли такое произойти в реальной жизни?

2. Исследование надежности источника. Соответствует ли происхождение контента его уровню сложности? Мог ли автор получить доступ к месту события?

3. Анализ ангажированности. Не выглядит ли сюжет так, будто сделан под актуальную политическую или общественную повестку?

4. Аудит технических несостыковок. Соответствуют ли качество, освещение или звук заявленным обстоятельствам?

5. Каталог неуместных деталей. Зафиксируйте конкретные детали, которые вызывают подозрение или кажутся невозможными в данном контексте.

6. Оценка несоответствия источника и контента. Слишком профессиональный контент от любителей или анонимных источников и отсутствие пояснений вызывают подозрение.

Глубокое исследование (когда цена ошибки высока). При работе над особо важными статьями и сюжетами воспринимайте сигналы интуиции лишь как отправную точку для комплексной проверки. Ваша природная способность распознавать закономерности уже помогла вам выявить аномалии — теперь пора систематически исследовать каждый подозрительный элемент, чтобы сформировать оценку на основе доказательств.

1. Проверьте все, что смущает. Зафиксируйте все странности и проверьте каждую из них: чем именно она нарушает естественные ожидания?

2. Исследуйте парадокс качества. Оцените, какие реальные ресурсы нужны для создания такого контента, и сравните это с предполагаемыми возможностями «очевидца».

3. Проанализируйте неуместные детали. Сопоставьте сюжет со своими знаниями о реальном мире и с мнением экспертов.

4. Оцените степень эмоциональной манипуляции. Проанализируйте, содержит ли материал триггеры, подталкивающие к вирусному распространению — или он рассчитан на естественный обмен информацией?

5. Глубоко разберите технические несостыковки. Покадрово проанализируйте несоответствия в качестве, освещении и звуке.

6. Проверьте подлинность источника. Выясните, мог ли предполагаемый источник действительно снять этот материал.

7. Выявите признаки нарративной инженерии. Проверьте, не выглядит ли история искусственно и удобно сконструированной для неких целей?

8. Проконсультируйтесь с экспертом по нарушению паттернов. Попросите опытных журналистов-расследователей дать независимую интуитивную оценку.

9. Определите порог доверия. Если тревожных сигналов и много, это основание отклонить материал, даже если он технически убедителен.

Когда стоит доверять интуиции:

• Когда многие элементы кажутся неестественными, даже если вы не можете определить, что конкретно не так.

• Если контент вызывает мгновенную сильную эмоцию — возможно, он специально сделан так, чтобы выключить логическое мышление.

• Если есть сомнения по поводу источника материала, времени событий или контекста.

• Когда техническое качество контента не соответствует уровню опыта его создателя.

• Если ваш мозг отмечает парадоксальное качество или слишком удобный тайминг.

Реальность: идеальных решений нет

Подводя итоги. Онлайн-анализатор Image Whisperer и семь категорий обнаружения ИИ-контента — анатомические ошибки, нарушения законов физики, технические следы, звуковые артефакты, контекстная логика, поведенческие паттерны и интуитивное распознавание — дают журналистам полный набор инструментов для оценки подлинности контента в сжатые сроки. В сочетании с профессиональными инструментами обнаружения и обновленными редакционными стандартами это поможет сохранять доверие аудитории. Вышибайте клин клином. Используйте ИИ для обнаружения ИИ-контента. И помогайте сохранять то, что еще осталось от нашего общего поля реальности. 

Спасибо нашей группе лингвистической поддержки за классный перевод :)