«Симулируя лица и голоса, ИИ вторгается в отношения людей»: Папа Лев XIV — в первой энциклике об ИИ

Папа Лев XIV сегодня в Зале Синода Ватикана представил Magnifica Humanitas ^[1] — первую в истории папскую энциклику об искусственном интеллекте ^[2]. Документ обращен к 1,4 миллиарда католиков. Главный тезис: ИИ-системы, симулируя человеческие лица и голоса, вторгаются на глубочайший уровень общения — на уровень человеческих отношений.

В тексте энциклики Папа называет современный ИИ не инструментом, который можно регулировать или применять во благо, а явлением, чья природа уже сама по себе создает угрозу человеческому достоинству. “Симулируя человеческие голоса и лица, мудрость и знание, сознание и ответственность, эмпатию и дружбу, системы, известные как искусственный интеллект, не просто вмешиваются в информационные экосистемы — они вторгаются на глубочайший уровень общения, на уровень человеческих отношений”, — говорится в документе. Это другая планка, чем у светской AI-этики: вредом названа сама мимикрия ИИ под человека, безотносительно намерений и контекста использования.

На сцену вместе с Папой вышли трое кардиналов и двое академических богословов. Шестым выступающим стал Кристофер Ола — сооснователь Anthropic и руководитель исследований по интерпретируемости (направление, которое пытается понять, что происходит внутри весов нейросетевой модели). Никого из OpenAI, Google DeepMind или Microsoft на презентации не было.

Свой выбор Ватикан объяснил публично. В брифинге для прессы прозвучала формулировка: “Само название Anthropic — прилагательное для всего человеческого — это заявление о приоритетах компании в разработке ИИ, и эти приоритеты значительно совпадают с теми, что выражает Ватикан”. В неофициальных комментариях кардиналы добавляли еще две причины: отказ Anthropic разрешать использовать Claude для массовой слежки за американцами и отказ применять модель в полностью автономных системах оружия.

Энциклика — не просто формальный документ. Текст “Laudato Si” Папы Франциска об экологии вышел летом 2015 года, за полгода до Парижского соглашения по климату — и помог мобилизовать католические электораты в Латинской Америке, Африке и на Филиппинах в поддержку соглашения. Magnifica Humanitas — прямая заявка на ту же роль для ИИ-регулирования. На этом фоне репозиционирование Anthropic из мартовской “угрозы цепочке поставок” по версии Пентагона в “образец ИИ-этики для 1,4 миллиарда католиков” — не риторический поворот. Это изменение позиции компании в индустрии и в международной политике одновременно.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть ^[3]“, где я рассказываю про ИИ с творческой стороны.