ИИ помог Папе Римскому написать манифест об опасности ИИ. Исследователи подозревают Claude

Папа Лев XIV выпустил ^[1] первую в своем понтификате энциклику Magnifica Humanitas — программный документ о защите человека в эпоху искусственного интеллекта ^[2], где технологическую гонку он сравнивает с возведением новой Вавилонской башни. Понтифик призывает “разоружить” ИИ, предупреждает о новых формах рабства в цифровой экономике и об эрозии демократии. Ирония в том, что вскоре после публикации детекторы показали: часть текста манифеста против ИИ, похоже, написана самим ИИ.

Первым на это обратил внимание ^[3] исследователь под ником Линч Чжан: прогнав первую главу через детектор Pangram, он получил отметку “написано ИИ” для 62% фрагмента. Эксперимент повторило издание The Verge — на выборке около двух тысяч слов Pangram дал в среднем 46%, причем по отдельным абзацам разброс шел от 40 до 100%. Картина при этом лоскутная: одни абзацы детектор уверенно считает машинными, другие — стопроцентно человеческими.

Дальше Чжан сделал шаг, который детектор сделать не может, — попытался опознать конкретную модель. По его наблюдению, “почерк” принадлежит Claude от Anthropic: слово “genuinely” встречается в Magnifica Humanitas девять раз против нуля в сопоставимой по объему энциклике Dilexit Nos, а число длинных тире выросло со нуля до 127. Маркеры, которые исследователь связывает с ChatGPT (“delve”, “tapestry”, “meticulous”), в тексте не нашлись вовсе. Сам автор честно оговаривается, что доказательства слабые и, возможно, ошибочные: и тире, и “genuinely” — обычные черты живого академического и религиозного письма, а не клеймо нейросети.

Из своих же данных Zhang делает аккуратный вывод: раз многие абзацы абсолютно чисты, речь не о том, что весь документ написал бот. Вероятнее, кто-то из высокопоставленных сотрудников Курии активно пользовался ИИ-помощником, а другие — включая, возможно, самого Папу — нет. Тут стоит держать в голове и контекст: энциклики традиционно пишут не сами понтифики, а аппарат Ватикана, так что само по себе участие “литературных негров” для жанра норма.

Финальный слой иронии добавляет состав гостей презентации. Энциклику Лев XIV представил лично — что само по себе нетипично, — а среди приглашенных спикеров был Крис Олах, сооснователь той самой Anthropic, что выпускает Claude. С трибуны в Зале Синода он призывал технологические лаборатории к диалогу с теми, кем не движут деньги, и говорил, что миру нужны “моральные голоса, которые не согнут стимулы”. Получилась почти законченная сцена: Ватикан предупреждает об опасности ИИ — рядом с создателем ИИ, документом, в котором, возможно, помогал этот самый ИИ.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть” ^[4], где я рассказываю про ИИ с творческой стороны.