Холст, масло, ИИ

Всем привет, меня зовут Павел Соколов, я главный редактор журнала Онлайн Патент. А также иногда пишу фикшн. И сегодня хочу написать про наболевшее: использовании ИИ при создании художественных (и не очень) текстов.

Недавно в литтусовке произошло сразу несколько скандалов, связанных с ИИ. Жюри Гонкуровской премии исключило из шорт-листа роман автора, заподозренного в генерации текста. У нас жюри Волошинского конкурса лишило звания лауреата, заподозренного в том же. До этого аналогичные скандалы происходили с разной степенью литрезонансовости в самых разных странах. Например, лауреатка Премии Акутагавы в Японии Кудан Риэ призналась уже после вручения высокой награды, что применяла ChatGPT. 

Издательства, жюри конкурсов, толстые журналы (и, кстати, до недавнего времени Хабр) захлебываются от откровенного нейрослопа. Самиздат при этом, правда, расцветает. Промт-инженеры первого ранга генерируют десятки и сотни книг в год. Тот же Amazon буквально завален подобной продукцией. Кто-то даже умудряется на этом зарабатывать. 

При этом сами издательства вовсю используют ИИ при переводе, редактуре, корректуре, написании рецензий, обзоров, создании обложек, иллюстраций, макетов и т.д. Бывают довольно жесткие кейсы, когда автор честно написал всю книгу сам, а возвращают ему рукопись, принятую к печати, уже с нашими любимыми артефактами. И даже самый примитивный ИИ-чекер определяет его текст как сгенерированный. И без вины виноватый получает по шее от хейтеров. Хотя это корректор или младший редактор всего лишь решил сэкономить время. Сэкономили, ага.

Музыкальная индустрия, производство видео, кино, сериалов: везде повсеместно используют ИИ. Были уже даже забастовки сценаристов в Голливуде. Выяснилось, что нейронка пишет сценарии ничуть не хуже маститых мастодонтов при должной редактуре. А уж про музыку и говорить нечего! 

По российским законам автором может быть только человек. Даже если весь текст – это тупой нейрослоп, нести уголовную и административную ответственность будет оператор ЭВМ, он же промт-инженер, он же автор. Редполитику по отношению к ИИ приходится выстраивать на ходу почти что всем. Тот же Хабр ввел довольно жесткое правило модерации контента, заподозренного в ИИ-генерации. Стало ли его меньше после этого? И да, и нет. Откровенного слопа меньше. Но теперь те же крупные игроки попросту вычищают нейротекст, избавляя его от артефактов и водяных знаков. Такие вещи лучше читаются, да. Это не тупой нейрослоп. Это текст, значительно переделанный человеком. В таких шедеврах много поговорок, устаревших или странных слов, которые условному Клоду не пришли ли бы на ум (форштевень вам в камбуз и гневные филиппики на ваше чело). Но ИИ при их создании-таки использовался. 

Глава известной в узких кругах конторы на одном из мероприятий в Москве поделился следующим кейсом: он обучил своих ИИ-агентов на своих же текстах, теперь они пишут за него в разных стилях, он лишь правит. Ему удобно, клиенты в восторге. Заказов тьма. Насчет ИИ-детекторов он как-то умолчал, но, видимо, ни разу не уличали.  

Поборники чистого человеческого разума требуют от всех, кто хоть как-то использовал ИИ заявлять об этом. Например, так: “этот текст был отредактирован с помощью ИИ” или “подстрочник к данному переводу выполнил ИИ”. Это этично и справедливо по отношению к читателю. Но делать так будут немногие. Проще залить сгенерированный текст в программу и вычистить его от артефактов или обучить тех же агентов. И можно ничего не писать и никому ничего не доказывать. Закон не запрещает подобной практики. Пока что.

Читая информацию о той или иной картине, обычно под ней написано, условно: “1899, холст, масло”. Это принятый стандарт. Мол, картину написал, скажем, Репин маслом на холсте в 1899 году. Проводить аналогии между сгенерированными текстами и подобным подходом странно, но именно этого требуют в идеале от всех промт-инженеров, простите, авторов. 

Даже если человек сам написал весь текст и прогнал через ИИ как через редактор или типограф, это всё равно использование ИИ. И за такие невинные вещи будет прилетать, особенно тем, кто что-то там насоздавал за последние три-четыре года и забыл упомянуть в каком-нибудь примечании, что посмел (сжечь негодяя!!!) использовать ИИ. 

Айтишники плюются от вайбкодинга, переводчики от вайбтранслейтнга (когда весь текст переведен ИИ и отправлен в редакцию без редактуры, а подчас и в печать), сотрудники редакций и журналов от нейрослопа, который они вынуждены читать и прогонять через ИИ-чекеры. 

Массовому использованию ИИ всего несколько лет, и эта технология уже много кого откровенно достала. У людей появилась насмотренность, простой читатель за минуту может выявить откровенный нейрослоп. Сами создатели контента стали бояться длинных тире, маркированных списков, троичных примеров, коротких предложений, потенциальных слов-артефактов вроде “идентичность”, длинных перечислений, вроде того, что вы сейчас прочитали, дробления на короткие абзацы и много чего еще. 

Люди стали терпимее относиться к ошибкам и опечаткам, так как это тоже признак того, что текст создан человеком. Некоторые вычищальки нейрослопа даже специально их добавляют ради очеловечивания текста. 

Никаких выводов к моему размышлению не будет. Нейроэтика только формируется. Если раньше, чтобы как-то насолить неугодному автору, того обвиняли в плагиате, сексуальных домогательствах, колдовстве, аморальном поведении или еще в какой-нибудь жути, сейчас достаточно написать: “это ИИ”. А на Хабре есть крайне удобная минусовка с кармой. 

Возвращаясь к литпроцессу, добавлю, что почти вся история литературы строилась на мистификациях, скандалах, воровстве идей, преследованиях, вспомним хотя бы Ромена Гари, ставшего Эмилем Ажаром и дважды получившего Гонкуровскую премию в обход всех правил. Кому надо, тот везде влезет. 

А пока что каждый журнал, каждый сайт, каждая премия должны сами определить свое отношение к ИИ-текстам. Если запрещено, значит, запрещено. Если нет, значит, разрешено. В той же Франции недавно учредили спецпремию для книг, созданных только ИИ, ИИ с участием человека и человеком, но отредактированных ИИ. Это честно. Честнее, чем сперва давать, а потом отменять и автора, и всё, что он сделал. 

Увы, нам уже не избавиться от ИИ-паранойи, мы заражены этим вирусом. Теперь нам везде мерещится (и не без оснований) нейрослоп. Как в 2022 году мы искали шестой палец у людей на фото, так в 2026 ищем и находим артефакты в текстах. Целая индустрия ИИ-детекторов выросла вокруг нашего АКР-желания выяснить правду и вывести лжецов на чистую воду. Удачи нам всем!