Чип и фейк спешат напомнить: Как делались фейки до прихода ИИ (и почему они ужасны)

Сделать дипфейк легко и уже никого не удивить очередным нейросеточным экзерсисом. А вот чипфейки — идеологические предшественники дипфейков — были куда интереснее. А часто еще и смертоноснее. 

Сегодня мы взглянем на их историю, а также узнаем как скамеры, политические интриганы, журналисты, тролли и прочие выкручивались, создавая фальшивую информацию.

Глубь веков и протомемы

Профиль императора Константина Второго на аверсе римской монеты. Источник: britannica.com ^[1].

Фейковые новости, наверно, существуют столько же, сколько и само человечество. В седой и ветхой древности они, веротяно, принимали форму самых обычных слухов, так как это был единственно доступный способ их растиражировать.

Наверное, первый пример, когда фейк-ньюз клепались в промышленных масштабах, относится к поздней античности, а точнее к правлению Константина II, чей папа первым из римских императоров принял христианство официально. 

Администратор он был, судя по всему, паршивый и часто подвергался критике за то, что не может одержать хотя бы одну-единственную победу над Персией Сасанидов, достойную быть воспетой в веках. Чтобы смягчить общественное негодование на фоне утомительных осад и отщипанных у Восточной империи земельных кусочков царем Шапуром II, Константин завел отдел греческих поэтов-панегириков на гособеспечении, которые как по волшебству превращали его фиаско в ослепительные победы, достойные Сципиона или Александра.

Но только с появлением массовой периодики фейковые новости обрели полнокровную, бурлящую жизнь. 

К примеру, знаменитый Большой лунный розыгрыш ^[2] состоялся в 1835 году, когда еще был жив Пушкин. Якобы, газета “Эдинбургские куранты” опубликовала новость о том, что знаменитый астроном Джон Гершель, вместе с неким доктором Грантом, открыл на Луне удивительный гибрид человеков и летучих мышей (Vespertilio-homo), которые строят храмы и успешно сосуществуют там с лунной фауной: однорогими козлами, бесхвостыми бобрами, карликовыми зебрами и единорогами. 

Литография с изображением лунного мира и крылатых людей из публикации The Sun. Источник:: Wikipedia.

Ясное дело, никаких законов о достоверности информации в СМИ тогда не существовало и тираж нью-йоркской газеты The Sun, где публиковался репринт новости, взлетел до небес. Гершель сначала только посмеивался, но потом начал злиться из-за бесконечных расспросов знакомых ученых и случайных зевак, а Эдгар Аллан По обвинил газету в плагиате его “Необыкновенного путешествия некоего Ганса Пфааля ^[3]”, с которого сюжет, видимо, и правда был слизан.

Лунные флора и фауна. Источник: Wikipedia.

Чудесный лунный пейзаж. (По всей видимости на Луне светит своя собственная мини-луна). Источник: Wikipedia.

Но если данная афера была просто “беспруфной” историей с нарисованными крылатыми человеко-нетопырями, то следующий знаменитый пример фейк-новостей уже претендовал на железобетонную достоверность, а все потому что у авторов была целая фотокамера и очень много свободного времени.

В 1917 двое юных кузин Элси Райт и Фрэнсис Гриффитс явили миру поистине удивительные снимки — на них девочки проводят вечер на летней лужайке в компании… взаправдашних крылатых фей. Фотографии, сделанный на камерный фотоаппарат, стали быстро набирать “хайп” и в итоге случай расследовал сам сэр Артур Конан Дойл, выпустив большую публикацию для рождественского выпуска The Strand Magazine. 

Самое знаменитое фото фей из Коттингли в компании Френсис Гриффитс.

Старшая кузина Элси, также в компании фей.

По его мнению феи были такими же настоящими как и сами девочки-кузины, что хорошо вписывалось в канву его увлечения спиритуализмом. Но, увы, он даже не подозревал, что это просто вырезки из детской книжки “Подарочная книга принцессы Мэри”, которые юные трикстерши аккуратно вычленили фигурными ножницами и искусно закрепили булавками на съемочной площадке, попутно украв папин фотоаппарат. В этом одна из кузин призналась только 60 лет спустя.

Вырезки были сделаны отсюда: Princess Mary’s Gift Book (1914). Глава: “Заклинание феи/A Spell for a Fairy.”

Уже в наше время чипфейк стал продуктом полностью технологичным, когда появились компактные носители информации и простейшие средства ее обработки, доступные в любом Волмарте. Так в 1982 году эссекская анархо-панк-группа Crass, видимо с помощью недавно дебютировавшего Walkman’а, неуклюже отредачила записи голосов Маргарет Тэтчер и Рональда Рейгана, которые, якобы, разговаривали о возможном ядерном апокалипсисе в Европе. Кассета была подкинута в датскую газету, которая раструбила о “Тэтчергейте” на весь мир — интересно, что в появлении пленки сразу же обвинили советский КГБ.

Ну а с приходом домашних компьютеров произойдет окончательное рождение чипфейка. Его производство будет впервые поставлено на поток таблоидом Weekly World News. Данный таблоид на полном серьезе выпустит статью “Хиллари Клинтон усыновила инопланетного детеныша” и еще множество других откровенно идиотских и потому прекрасных сюжетов, разлетевшихся на мемы в эпоху медленных модемов. Кстати, делалось это все не без помощи любимого всеми Фотошопа. 

Источник: Edition.cnn.com ^[5].

“Лидеры анти-иракской коалиции приказали мальчику-нетопырю искусать Саддама Хусейна”. Источник: theatlantic.com ^[6].

“Компьютерный вирус передается людям”. Источник: Reddit.com ^[7].

Но если первые чипфейки стряпались ради невинной шалости, язвительной сатиры или топорного пиара, то последующие их поколения производились на свет с уже более конкретными и, под час, устрашающими целями. 

Принцы Нигерии и киднеппинг

О Нигерии можно рассказать много интересного. В частности, там когда-то была загадочная культура Нок ^[9] Бронзового века, оставившая прекрасные терракотовые статуэтки. Или, например, о деревне Убанг, где мужчины и женщины буквально говорят на двух разных языках, эксклюзивно закрепленных за половой принадлежностью.

Но, увы, сейчас она, среди прочего, известна как Мекка международного скамерства, не в последнюю очередь благодаря “афере 419”, названной так по номеру статьи нигерийского УК. Суть ее проста и стара как мир: жертве предлагается заплатить малую сумму ради получения гораздо большего куша в будущем — таким промышляли еще европейские мошенники в изящную эпоху 17-19 веков и она была известная как “Афера испанского узника”. 

Что забавно, в Новейшей истории ренессанс этой схемы начался именно в Северной Африке, в 1920-х годах. Правда это была соседствующая с Нигерией Гана и письма рассылались стандартной почтой, а предлагались в них магические услуги от “профессора чудес П. Крентсила” за символический аванс.

С приходом интернета письма нигерийских принцев, душеприказчиков из миллиардерских семей, богатых вдовушек и прочих персонажей приобрели лавинообразный характер. А поскольку люди постепенно умнели и адаптировались к психологическим атакам на чувство жадности, то приходилось придумывать новые схемы по выуживанию денег, а заодно осваивать Фотошоп и прочие современные технологии.

Нигерийцы (да и скамеры из других стран) вывели игру на новый уровень и навсегда вписали себя в историю. Nigerian Photoshop, кстати, стал мемом в антифрод-коммьюнити нулевых и десятых и многие перлы дошли до нас в ослепительно первозданном блеске.

Источник: Vice.com ^[8].

Какие-то африканские мошенники шли еще дальше и вместо кривых фотошопов изготавливали реплики айфонов и плейстейшенов целиком из дерева. Это делалось для разных целей, например, чтобы выудить предоплату за продаваемый “девайс”. 

Хоть и фейк, но уж не совсем “cheap”: деревянная копия компьютера Commodore 64. Ловец скамеров Майк Берри (псевдоним Shiver Metimbers), убедил горе-афериста, притворяющегося богатым коммерсантом, вырезать реплику, якобы, для частной выставки. На работу у скамера ушло порядка нескольких месяцев и результат, внезапно, получился весьма неплохим. Кажется, он даже получил за это какой-то гонорар. Источник: theatlantic.com ^[6].

Но даже будучи нелепыми, чипфейки на крякнутом Фотошопе. видимо, делали свое дело. По данным Arstechnica ^[10], к 2009 году нигерийские скам-центры сумели выудить $9.3 миллиарда у своих жертв и кривые картинки в низком разрешении активно использовались в этой заочной бендериане.

Но чипфейк — это не только картинка. По сути, им может быть любой кусочек информации, преподнесенный в нужном свете, нужной аудитории и при нужных обстоятельствах, дабы достичь желаемого эффекта. То есть, это псиоп, построенный на правильной синергии событийного контекста, эмоционального отклика и каналов быстрой передачи информации, например соцсетей или мессенджеров.

Мрачный сценарий, объединивший все эти факторы, произошел в Индии ^[11], в 2017-18 годах. Дипфейки тогда только вылезли на свет из катакомб Реддита, еще были в диковинку и оставались недоступны технически неграмотным людям. Но они и не были нужны, чтобы спровоцировать волну линчеваний в ряде индийских штатов и modus operandi, который использовали авторы вброса, был самый простой.

Кадр из рокового видео. Источник: Global News.

Индийские групповые чаты в Ватсапе стали наводнять однотипные предостережения: ”Внимание ^[12]! Берегите своих детей!”, которые сопровождались тревожным видеорядом: мотоциклист с наглухо затонированным забралом шлема подъезжает к одиноко стоящему ребенку, хватает его и исчезает из кадра со скоростью гоночного болида. В пояснении к видео упоминалось, что так в Индии орудуют банды черных сборщиков органов.

Массовая истерия особенно захлестнула Карнатаку, Ассам и Махараштру. Источник: nytimes.com ^[13].

Сообщение разлетелось по индийским группам со скоростью пожара в саванне. Отряды добровольцев, особенно в деревнях, патрулировали закоулки, выискивая подозрительных чужаков. Детям запрещали играть на улице. Градус паранойи превысил все мыслимые отметки и напряжение не могло не привести к катастрофе.

В итоге, проживавшие в сельской местности индийцы массово нападали на случайных туристов, паломников и просто проезжавших мимо людей, что в большинстве случаев приводило к трагедиям. Так например, двух молодых парней, сделавших недолгую остановку на дороге, выволокли из джипа и избили до смерти. А в штате Тамил-Наду ^[14] толпа привязала женщину-инвалида к трактору, подвергнув ее трехчасовому избиению палками и камнями, предположительно, потому что что она просто угощала местных детишек сладостями.

Естественно, никто не был в курсе, что спровоцировавшее истерию сообщение было чипфейком. За основу была взята пакистанкая социальная реклама, из которой была вырезана концовка: в финале ребенка возвращают на место, а мотоциклист показывает плакат с надписью: “Нужно лишь мгновение, чтобы похитить ребенка”.

Вырезанная концовка. Источник: BOOM Fact Check.

В данном случае чипфейк был сделан не только благодаря примитивному редактированию — пара кликов и видео готово — но и еще реконтекстуализации, когда информация подается в совершенном ином свете, отличающемся от ее исходного посыла. Так реклама, призванная повысить бдительность родителей, привела к череде ужасных смертей.

Дипфейк vs. чипфейк: Кто хуже?

Бывшего президента Габона Али Бонго Ондимба едва не настиг государственный переворот. Из-за странного вида и взгляда в никуда во время новогоднего обращения к нации (видимо из-за перенесенного приступа), многие стали подозревать, что президент давно скончался. Вместо него, публике, якобы, показывают дипфейк, чтобы круг его приближенных продолжал контролировать Габон. Слухами воспользовалась группировка военных, которая инициировала захват радиостанций и государственных учреждений, однако попытка переворота в итоге захлебнулась. И да: видео с Али Бонго было настоящим, не смотря на то, что он немного напоминал гипножабу из “Футурамы”. 

Как бы парадоксально это не звучало, но чипфейк может быть гораздо опаснее и коварнее, чем фейковые медиа, сделанные с помощью нейросетей.

Проблема в том, что люди худо-бедно, но все еще способны отличать нейросетевой контент на глаз, особенно если в нем демонстрируется нечто крайне фантасмагорическое: например, заместитель генерального секретаря КПК, лихо танцующий брейкданс.

Чипфейк же может быть более неуловимым для человеческого сознания, потому что он вырывает кусок реального события и затем подвергает его всевозможным манипуляциям, как техническим, так и смысловым. А самое главное, сделать его гораздо проще, быстрее и дешевле — это удается буквально на коленке. 

Не нужны какие-то навороченные GenAI-модели, у которых либо есть заграждения в виде цензуры, либо которые нужно ставить на довольно дорогое железо и затем деплоить или тренировать в домашних условиях. 

Увы, иногда копеечные методы эффективнее. А значит, бдительность, благоразумие и проверка фактов — это пока что единственные методы против Кости Сапрыкина фейковых вбросов.