Как Достоевский решил проблему объяснимости ИИ и помог Эйнштейну

Чтобы человек доверял ИИ, а тот не имел возможность обманывать людей, необходимо решить проблему объяснимости, то есть описать, как нейросеть пришла к тому или иному выводу. Похожая проблема существует и в мышлении ^[1] человека, который далеко не всегда может объяснить, как он приходит к тем или иным выводам (вспомним таблицу Менделеева). Решить ее, и довольно успешно, пытался еще Федор Михайлович Достоевский в рамках своего специального проекта «Дневник писателя».

Проблеме объяснимости рассуждений и выводов нейросетей посвящено множество исследований, в частности, книга «Взломать все. Как сильные мира сего используют уязвимости систем в своих интересах?», написанная экспертом по кибербезопасности, криптографом, гарвардским профессором Брюсом Шнайером.

Проблема объяснимости состоит в том, что ИИ, по сути, являются черными ящиками, в которые с одного конца поступают данные, а с другого выходит ответ, и понять, как как получен этот ответ, не могут даже разработчики нейросетей. Более того, ход «рассуждений» ИИ может не соответствовать формату понятных для человека объяснений в принципе. По мнению Брюса Шнайдера, в ближайшей перспективе ИИ будет все более непрозрачным, поскольку системы усложняются, становясь все менее похожими на человека, а значит, и менее объяснимыми. 

Тем не менее, он считает, что «Система ИИ должна не просто выдавать ответы, но объяснять ход своих рассуждений в формате, понятном человеку. Это необходимо нам как минимум по двум причинам: чтобы доверять решениям ИИ и чтобы убедиться, что он не был хакнут с целью воздействия на его объективность». Кроме того, «аргументированное объяснение … считается основным компонентом идеи надлежащей правовой процедуры в соответствии с законом».

Проблема объяснимости рассуждений и выводов, повторим, существовала задолго до возникновения ИИ. В частности, ее решением занимался писатель Федор Михайлович Достоевский в своем проекте – моножурнале «Дневник писателя». С 1876 года по 1881 год (с перерывом) он публиковал в последний день каждого месяца отдельные выпуски журнала, в которых рассуждал о тех событиях российской жизни, которые привлекли его внимание ^[2].

Он изучал публикации в местной и столичной прессе, писал свое мнение о фактах, которые там рассматривались, и оценивал мнениях об этих фактах, которое приводилось в прессе.

Но это не все. Он также писал и о способе рассуждений, который он сам при этом использовал, и указывал отличие от способов рассуждений, который использовали другие люди. В частности, он обнаружил факт поголовного вранья, распространенного в обществе: «С недавнего времени меня вдруг осенила мысль, что у нас в России, в классах интеллигентных, даже совсем и не может быть нелгущего человека. Это именно потому, что у нас могут лгать даже совершенно честные люди. … .». 

Достоевский считал обнаруженное явление присущим именно русскому обществу, но тут он ошибался. Это общемировое явление. Испанский философ и публицист Ортега-И-Гассет описал диковинного «нового человека», который постоянно врет с убежденностью в собственной правоте: «В политике, в искусстве, в общественных и других науках он способен выказать первобытное невежество, но выкажет он его веско, самоуверенно и – самое парадоксальное – ни во что не ставя специалистов». А английский философ и писатель Оскар Уальд считал, что «Англия – родина лицемеров».

Впрочем, Достоевский видел и явление не только бескорыстного вранья, но и корыстного. В Дневнике писателя (за 1873 год) в Главе XVI «Одна из современных фальшей» Достоевский обратил внимание на то, что для «защиты нашей молодежи пред обществом и перед правительством» используется прием, который «состоит в простом отрицании факта, иногда самом грубом и нахальном; нет, дескать, факта, не было его и быть не могло; …»

Речь идет о статье в издании «Русский мир», в которой был описан случай с кружком революционеров, возглавляемым Нечаевым, участники которого убили своего соратника. В «Русском мире» написали, что «учащаяся молодежь в подобных безумствах не бывает у нас замешана. Идиотический фанатик, вроде Нечаева, мог найти себе прозелитов только среди праздной, недоразвитой и вовсе не учащейся молодежи». Это утверждение Достоевский и назвал фальшью, более того, он обратил внимание на то, что это обычно для псевдолибералов: «В том-то и вся важность, что прием этот не выдумка одного только «Русского мира», а прием, общий многим органам нашей псевдолиберальной прессы, и там, может быть, он делается уже не столь простодушно».

Использование такого приема действительно не является простодушным, это обычная практика для способа мышления, который описал американский экономист Торстейн Веблен, назвав его способом мышления финансистов.

Достоевский описывал и собственный метод исследования, назвав его реализмом в высшем смысле: «Меня зовут психологом: неправда, я лишь реалист в высшем смысле, т. е. изображаю все глубины души человеческой».

Таким образом, он постоянно стремился объяснить читателям не только результат, но и ход своих и чужих рассуждений. В этих же целях он использовал различные исторические параллели. Писатель и философ Борис Николаевич Тарасов в книге «Ф. М. Достоевский. Дневник писателя» отметил следующее: «По мнению Достоевского, всякое явление современной действительности должно рассматриваться сквозь призму опыта ^[3] прошлого, не перестающего оказывать свое воздействие на настоящее через те или иные традиции. И чем значительнее национальное, историческое и общечеловеческое понимание злободневных текущих задач, тем убедительнее их сегодняшнее решение».

Ключевое слово здесь «убедительнее» – Достоевский, действуя таким образом, стремился объяснять ход своих рассуждений в формате, понятном человеку, то есть решал проблему объяснимости, с которой сейчас сражаются специалисты по ИИ.

Попытки объяснить ход своих мыслей усложняют его статьи и художественные романы, зато делают их более понятными и убедительными для читателя. Кстати, он сам после двух лет издания «Дневника писателя» в письме С. Д, Яновскому в 1877 году писал, что «Во всех сотнях писем, которые я получил в эти два года, всего более хвалили меня за искренность и честность мысли; значит, этого-то всего более и недостает у нас, этого-то и жаждут, этого-то и не находят.»

Таким образом, чтобы научить ИИ честности и обеспечить понятность рассуждений и выводов нейросетей в некоторых сферах гуманитарного знания, можно использовать способ мышления Достоевского, его форму представления рассуждений.

Сделать это не так уж и сложно. В статье «О чем бы писал Достоевский в современной России?» (первом выпуске Продолжения «Дневника писателя» за 2026 год) описаны семь правил мышления, которым следовал писатель (есть и другие). Для обеспечения объяснимости ИИ следует научить нейросети использовать данные правила, и ссылаться на их применение при поиске решений тех или иных задач. В частности, рассматриваться сквозь призму прошлого опыта. И тогда люди начнут хвалить нейросети за искренность и честность.

Дело, впрочем, не только в объяснимости, но и в истинности знания. Физик Альберт Эйнштейн писал, что Достоевский дал ему для творчества ^[4] больше, чем все математики ^[5] мира, больше, чем Гаусс. И это не случайно: Достоевский стремился объяснять свое и чужое мнение посредством описания используемого способа рассуждения (наблюдения) и всех глубин души человеческой, Эйнштейн понял, что законы физики зависят от всего, что происходит в процессе наблюдения, применил эту идею к описанию физических явлений, и благодаря этому создал специальную теорию относительности. Нечто подобное должно произойти и с искусственным интеллектом ^[6].

Владимир Федорович Тарасов.