Философский разбор идеи Software 3.0 Андрея Карпатого

Мне недавно попалась очень интересная беседа ^[1] Кирилла Меньшова (Сбер), Дмитрия Иванова (Яндекс) и Никитой Соболевым (разработчик OpenSource) о перспективах задекларированной Андреем Карпатым ^[2] Software 3.0 или концепцией о том, что сегодня (или в скором будущем) «программный код» = «Промпт на естественном языке».

Разговор оказался на редкость взвешенным и спокойным, в противовес тому хайпу, который наблюдается вокруг GenAI. И мне захотелось добавить к этому философский слой, который мог бы способствовать пониманию проблематики.

В 2017 году Карпатый написал ^[3], что сегодня мы находимся на этапе Software 2.0, где «Программное обеспечение 2.0 написано на гораздо более абстрактном, недружественном к человеку языке, таком как веса нейронной сети. В написании этого кода не участвует человек, потому что весов много (в типичных сетях их могут быть миллионы), а кодирование непосредственно с весами довольно сложно (я пробовал).»

Однако, нас ждет следующий виток развития – Software 3.0. Вот его некоторые тезисы относительно Software 3.0:

1.Сегодня наступает эра разработки интеллектуального программного обеспечения, где промпт на естественном языке заменяет непосредственную разработку кода инженером-программистом.

2.Любой, кто способен сформулировать задачу способен написать код с помощью GenAI

3.«Самый горячий язык программирования сегодня — английский»

Основной посыл такой парадигмы заключается в переходе от языков программирования к перспективе общения с машиной на все более естественном языке. Однако, хотя все это выглядит очень оптимистично, в действительности связано с рядом фундаментальных философских проблем. Причем большинство из них имеет довольно давнюю историю.

В целом, причины проблематичности перехода к парадигме Software 3.0 можно разделить как минимум на 3 группы:

1. Проблема точности передачи мысли или проблема принципиальной возможности существования языка науки, или проблема перевода.

Добиваясь точности спецификаций на естественном языке, говорит Николай Соболев, мы в итоге разработаем подвид русского языка. Это будет язык спецификаций, т.е. все тех же формальных методов. С этим сложно не согласиться.

Любопытно, что такая парадигма полностью противоположна всей предыдущей истории науки. Сегодня это начинает казаться естественным путем развития Нам начинает казаться, что мы можем вырваться из этого прокрустового ложа точных формулировок. Но так ли это при более внимательном анализе? Сможем ли мы добиться свободы в вопросах общения с машиной? А есть ли эта свобода хотя бы в общении даже не просто двух людей, а ученых из одной области?…

Вся история науки – это история о постоянных попытках отказаться от использования естественного языка в целях достижения точности и однозначности. Проводились они сразу по нескольким направлениям. Это и упрощение грамматики за счет отказа от исключений. Это и уменьшение словарного запаса дабы избежать синонимии, омонимии и т.д.. Это и отказ от метафизики в пользу только проверяемых с помощью научных методов фактов.

С первыми двумя пунктами все более-менее понятно, за исключением того, что язык становится эмоционально беднее и перестает выполнять ряд функций, таких как апеллятивная (побуждающая к действию), фатическая (установление контакта), эмотивная (выражение эмоций ^[4]). Остаются только информационные функции, включающие в себя информационно-управляющую (алгоритмическую), информационно-логическую и информационно-поисковую.

Проблем здесь несколько.

Прежде всего, это огромная нагрузка на психику операторов и промпт-инженеров. Не может человек выключить эмоции ^[5] без ущерба.

Кроме того, весь провальный опыт ^[6] позитивизма говорит о невозможности безнаказанно упростить язык. Важным препятствием здесь является даже не проблема потери выразительности, а невозможность полностью изолировать контексты в целях борьбы с неоднозначностями. Тем, кто хочет более детально понять проблему, стоит прочитать, например, «От дерева к лабиринту» и «Сказать почти то же самое. Опыты о переводе» Умберто Эко.

Краткая суть состоит в том, что идея дерева, как строго упорядоченного знания не удалась. Современная концепция лабиринта говорит о том, что все смыслы можно связать со всеми. Да, возможно прямых путей от одного смысла к другому может и не быть, но вот сложных – точно больше одного. А значит, все истинностные высказывания могут быть истинными не вообще, а только в каком-то узком контексте. А всегда ли контексты автора и слушателя непротиворечиво пересекаются? Работы Московско-тартуской семиотическая школа Ю.М. Лотмана говорят о том, что соединить «бесшовно» две системы знаний практически невозможно. Опыт различен и уникален. У каждого человека. А в нашем случае – еще и у каждой «думающей» машины. Более того, он необходим для свободного творческого акта рождения новых смыслов.

Тем, кому интересно стоит также обратиться к истории Венского кружка и идеям логического позитивизма. Наиболее значимыми в аспекте нашего вопроса были Карл Поппер, Людвиг Витгенштейн, Курт Гедель и Джон фон Нейман. Не все они были непосредственными участниками кружка, но все они так или иначе с ним связаны.

Вся их история связана со спорами вокруг разработки строгого языка, необходимости опираться только на те утверждения, которые можно верифицировать. Более того, идея Венского кружка о необходимости формализации языка, убрать двусмысленность и свести все к чистой математической логике ^[7] позднее идеально подошло для создания первых ЭВМ и языков программирования.

Однако, как выяснилось, логический позитивизм не работает. Все что ты можем, сказал Карл Поппер, это попытаться фальсифицировать то или иное утверждение или гипотезу. А до тех пор – мы можем только верить в ее истинность. В случае со спецификацией – верить, что она полна и непротиворечива. Теорема Геделя вообще ставит крест на возможности полностью внутренне непротиворечивой системы. А значит ни борьба за ясность правил, ни борьба за точность не приведут к созданию внутренне непротиворечивой системы. Следствием этого является невозможность построить полностью непротиворечивую спецификацию.

И здесь мы переходим к еще одной проблеме – проблеме метафизики.

Отказ от метафизики подразумевает отказ от высших смыслов. Т.е. от идеи о существовании смыслов, которые мы должны принять на веру без доказательств. Но это, как показал Гёдель, невозможно. Любое доказательство возможно только за счет ее расширения, выхода за свои границы. Так, например, современная физика оперирует такими понятиями как энергия и электрон. Но не знает, что это, хотя может оперировать этим понятием. Ведь что бы это сделать, надо сказать: энергия состоит из того-то и того-то, имеет такую-то внутреннюю структуру… Немного по другому у Делеза. В своей работе «Логика смысла» философ указывает на нонсенс, как на основу для возникновения нового знания.

А целый ряд сущностей, которыми мы оперируем вообще, не поддается прямому логическому анализу. Речь идет, например, о ценностях.

И здесь участники дискуссии честно отвечают: ни одна спецификация неполна…

Еще одной надеждой, которая побуждает нас с оптимизмом взглянуть на – Software 3.0 является вера, что существует возможность уйти от от переменных и классов. Однако, они есть и в естественном языке…

Естественный язык представляет собой многоуровневую систему (по изданию «Информационные языки» В.А. Московица), уровнями которой являются: группа уровней построения или элементная база (фонемы, морфемы и т.д.), уровни интеграции (объединение элементов, которых минимум 2) и уровни организации, которые состоят из парадигматического (объединение смысловых единиц по общим признакам) и синтагматического уровня (порядок следования). В общем, сама структура языка не подразумевает отказ от классов и переменных. Отличие естественных языков только в меньшей строгости и большей многослойности.

В общем тезис «Любой, кто способен сформулировать задачу способен написать код…» это не более чем иллюзия. Да, мы можем облегчить себе где-то жизнь. Но не более того.

2. Проблема сравнительных возможностей языка.

Идея о том, что английский сегодня один из наиболее подходящих языков в некотором смысле не так плоха. По крайней мере, по сравнению с русским: русский – синтетический, английский – (полу)аналитический. Да, английский язык более точен по своей структуре. В этом смысле китайский подходит еще больше.

И здесь стоит лишь кратко отметить, что замена английских слов на русские не является просто проблемой создания словаря типа: перепишем Java на русский. Вопрос в том, что синтетические языки, да еще с отсутствием строго порядка слов кажутся плохим «сырьем» для такого рода задач, но являются отличными инструментами в том случае, если нам требуется использовать все доступные функции языка, о которых говорилось выше.

3. Мотивация ^[8] – интенциональность – воля.

У агентов, замечает Дмитрий Иванов – нет мотивации ^[9]. А значит, возникает вопрос о том, как возможно творчество ^[10]? Хотя здесь более правильно говорить о проблеме воли. Создание новых алгоритмов, уточнение задачи связано с неизвестным. «Простая» комбинаторика не способна полностью закрыть этот вопрос. В частности, для решения этой задачи нужна подсистема эмоционального интеллекта ^[11]. И здесь стоит обратиться прежде всего к представителям русской, а потом и советской школы. От Ивана Петровича Павлова и Владимира Михайловича Бехтерева, к Виктору Константиновичу Анохину, Павлу Васильевичу Симонову, Юрию Иосифовичу Александрову и целому ряду других исследователей. Познание невозможно без эмоций, волевые действия по исследованию мира, желания поиска путей решений и создания новых знаний строятся прежде всего на их эмоциональной оценке. Более того, работа фантазии самым тесным образом связана с выбором направления творческого поиска, с той степенью внимания ^[12], которая необходима для удержания фокуса. Фантазия есть свободный творческий акт, необходимый для моделирования возможных вариантов состояний мира. Об этом писали Гуссерль и многие другие.

В качестве общего вывода, можно сказать, что идея полностью уйти от языков программирования, только за счет переосмысления работы со спецификациями как минимум противоречит всему накопленному опыту. Да, это еще один инструмент, да это хорошая замена клавиатуры и подспорье. Но идея того, что GenAI вытеснит все – вызывает сомнения.

По крайней мере, этому должны предшествовать решения тех проблем, которые накоплены историей в лице позитивизма, логицизма, не говоря уже более ранних периодах более чем 2000 летней истории философии и философии науки, прежде всего.