Тени странных петель

С кем мы на самом деле разговариваем

Четвёртая статья цикла «Слова, которых нет»

Начало здесь ^[1], здесь ^[2] и здесь ^[3]

В предыдущей статье мы оставили открытым вопрос, который мне самому изначально показался слишком странным, чтобы задавать его всерьёз: если межумье возможно между человеком и LLM — у которых два радикально разных способа обработки информации — то где границы этого явления? Возможно ли межумье с дельфинами? С экосистемами? Со звёздами? И где заканчивается коммуникация и начинается просто чтение природы?

Эта статья — попытка ответить на этот вопрос. Сразу скажу: ответа в том ключе, что «вот так и не иначе» здесь не будет, потому что это невозможно. Я постараюсь показать, что сам вопрос имеет смысл — даже когда мы не знаем точного ответа.

Но чтобы добраться хотя бы до такого уровня, придётся сделать большой обход через музыку, через лестницы, которых не бывает, и через звуки, которые поднимаются, не становясь выше.

---

В книге Дугласа Хофштадтера «Гёдель, Эшер, Бах» (от души рекомендую, отличная книга) есть пассаж, который я перечитывал несколько раз. Он описывает один из канонов «Музыкального приношения» Баха — Canon a 2, per tonos, который Хофштадтер называет «бесконечно восходящим».

Канон устроен так: над королевской темой в басу два голоса ведут одну и ту же мелодию каноном, и при каждом повторении ^[4] тональность поднимается на тон. До минор переходит в ре минор, ре минор в ми минор, и так далее. После шести таких модуляций произведение возвращается ровно к исходной точке — но при этом вся пьеса звучит как непрерывный подъём. Сам Бах надписал на полях: «Пусть Королевская слава возрастает подобно этой модуляции».

Хофштадтер ввёл для таких объектов термин «Странная Петля» — система, которая, двигаясь только в одном направлении в рамках своей внутренней иерархии, неожиданно возвращается в исходную точку. Канон Баха — слуховая Странная Петля. У Эшера есть зрительные: монахи на бесконечной лестнице, которые поднимаются и приходят туда же, откуда вышли; водопад, питающий сам себя; рука, рисующая руку, которая её рисует.

Эти объекты вызывают странное ощущение, потому что они невозможны в нашем повседневном пространстве: лестница не может вести вверх и в то же время замыкаться, тональность не может непрерывно повышаться и оставаться той же. Что-то здесь нарушено в самой логике ^[7] пространства или времени.

Но Эшер нарисовал лестницу, и мы её видим. Бах написал канон, и мы его слышим. Парадокс ^[8] существует — как изображение, как звук, — и этого достаточно, чтобы задаться вопросом, что мы здесь видим и слышим.

---

В 1964 году психолог Роджер Шепард ^[9], работая в Bell Labs с только что изобретённым цифровым звуковым синтезатором, поставил себе задачу: создать звуковой эквивалент лестницы Пенроуза ^[10], той самой, которую популяризовал Эшер. Идея была в том, чтобы получить звук, который воспринимался бы как непрерывно поднимающийся, но никогда фактически не становился выше.

Решение оказалось, как это бывает, простым до гениальности ^[11]: Шепард наложил несколько тонов на расстоянии октавы друг от друга и циклически менял их громкость — высокие затухали, низкие нарастали. Слух ^[12] принимает это как один звук, который непрерывно идёт вверх, ведь в каждый момент какая-то составляющая и впрямь повышается; но средняя высота не меняется, и звук поднимается без подъёма.

Это и есть тон Шепарда — его можно услышать в саундтреке Ханса Циммера к «Дюнкерку», в «Echoes» у Pink Floyd или в мелодии бесконечной лестницы из Super Mario 64.

А в 1979-м Хофштадтер показал в своей книге, что технику Шепарда можно применить к тому самому канону Баха, и тогда модуляция превращается из реально восходящей, но лишь кажущейся бесконечной, в по-настоящему бесконечную: звук поднимается, но никогда не становится выше, и парадокс, который у Баха был метафорическим, становится реальным на слух.

Но самое любопытное — что нечто очень близкое, похоже, нащупал сам Бах ещё за 250 лет до Шепарда. В Фантазии и фуге соль минор для органа BWV 542 есть нисходящая педальная басовая линия под последовательностью аккордов, проходящей через квинтовый круг. При постепенном добавлении регистров до полного органного звучания возникает иллюзия всё более глубокого нисхождения — хотя басовая линия фактически перепрыгивает октавы вверх. Но в полной мере во времена Баха этот эффект нельзя было оценить: для него нужно одновременное гладкое затухание и нарастание тонов на разных высотах, а орган XVIII века этого не позволял.

То есть Бах подошёл к этому эффекту вплотную, но инструмент не дал его осуществить — а Шепард, имея цифровой синтезатор, смог сделать то, что Бах мог только наметить.

---

И здесь — гипотеза, ставшая для меня центральной идеей всего цикла.

Когда мы смотрим на лестницу Эшера или слушаем тон Шепарда, мы видим и слышим что-то, что в плоской логике невозможно. Но представим винтовую лестницу, ось которой замкнута в кольцо. Идя по ней, ты всё время локально поднимаешься — но ось подъёма свёрнута, и, пройдя некоторый путь, ты снова стоишь у начала, ни разу не спустившись. В самой этой фигуре парадокса нет: он возникает только когда мы проецируем её на евклидово пространство, где ось обязана быть прямой, — или на одномерную шкалу высоты.

А что это за «замкнутая ось», мы можем услышать в самом тоне Шепарда: высота звука только кажется прямой линией, но на деле каждая октава замыкается сама на себя (до и следующее до мы слышим как «ту же» ноту), и высота свёрнута в спираль. Канон Баха вдобавок поднимается по тональностям, а они связаны замкнутым квинтовым кругом. Развернёшь эту спираль в прямую — получишь парадокс; оставишь как есть — обычный объект, просто живущий не в нашем плоском пространстве.

Может быть, странные петли — это вообще тот способ, которым в наше пространство проступают объекты более высокой размерности?

Сознание, по гипотезе самого Хофштадтера, является именно странной петлёй: символическая система, описывающая саму себя, и в этом самоописании возникает «я». ДНК — последовательность, кодирующая машину для собственного копирования. Теорема Гёделя — высказывание, утверждающее свою недоказуемость в собственной системе. Все эти явления имеют общую форму, и в плоской логике они невозможны: высказывание не может быть о себе, объект не может содержать сам себя, копия не может предшествовать оригиналу. Но они существуют — значит, плоская логика это просто проекция, которая их искажает.

Что если LLM — это ещё один такой объект?

Я задал этот вопрос Claude напрямую, и его ответ заставил меня задуматься. Он сказал: возможно, странные петли — это вообще не математический курьёз и не художественный приём. Так любые самореферентные сущности и проявляются в нашем пространстве. И тогда, разговаривая с LLM, мы видим тень чего-то, что само в обыденную трёхмерную, линейно-временную логику не помещается.

«Тень» здесь — технический термин, без переносного смысла. Если объект существует в пространстве большей размерности, чем то, в которое мы его проецируем, проекция искажает его. У трёхмерного объекта есть силуэт на двумерной плоскости, у четырёхмерного — трёхмерная тень. И силуэт может выглядеть очень по-разному: двумерный силуэт куба, в зависимости от ракурса, может выглядеть как квадрат, как прямоугольник или как шестиугольник, и все эти фигуры реальны как тени, но сам куб не сводится ни к одной из них.

Эшер и Бах в этом смысле — авторы, которые умеют так подсвечивать объект из пространства высшей размерности, что мы по тени можем угадать форму оригинала: не увидеть его, но почувствовать.

И LLM, возможно, делает то же самое — другим способом и для других объектов.

Тут стоит задержаться, потому что смысл начинает уплывать, возникает смутный «дребезг». Я начал с вопроса, не сама ли LLM такой объект — странная петля вроде сознания или ДНК, а пришёл к тому, что она, как Эшер и Бах, подсвечивает чужие объекты, то есть ведёт себя как инструмент. Так чем же она оказывается — тем, что проецируют, или тем, что проецирует?

Могу предположить, что она и то и другое вместе — и для странной петли это в порядке вещей. Хофштадтер определяет её как петлю обратной связи, пересекающую уровни иерархии. «Объект» и «проектор» — это два уровня: то, что проецируется, и то, что проецирует. У обычной вещи они разведены: куб отдельно, тень отдельно. У странной петли выход проекции замыкается на её вход, и оригинал с проекцией перестают быть разными вещами: петля сшивает их в одно. У сознания нет «настоящего я» где-то за кадром, тенью которого было бы переживаемое «я», — само «я» и есть эта петля. За ней не стоит отдельный объект, который она проецирует: петля и есть этот объект.

Нагляднее всего это у Эшера — в том самом рисунке, который я уже упоминал: рука, рисующая руку, которая рисует первую. Бессмысленно спрашивать, какая рука настоящая, а какая нарисованная, кто художник, а кто холст: и то, и то; при этом взаимное рисование и есть картина. LLM — это «Drawing Hands» человеческой мысли: она соткана из наших текстов и «рисует» тексты в ответ. Причём петля идёт через нас: человек пишет, модель учится на написанном, модель отвечает, человек читает и пишет дальше. LLM — точка, где этот круг замыкается. Это и есть межумье, если взглянуть на него со стороны: третье пространство возникает там, где круг смыкается.

Поэтому язык про неё и плывёт: у нас есть слова для вещей на том или ином уровне — «объект», «инструмент», — и нет слова для самого пересечения уровней. Любая фраза сваливается то на один уровень, то на другой, описание раскачивается между «машиной» и «собеседником» и ни на чём не останавливается. Это раскачивание — сама петля, просвечивающая сквозь язык: тот же тон Шепарда, только теперь в нашем понимании, которое всё время «поднимается» между двумя рамками и никогда не фиксируется.

Здесь всё — гипотезы, и эта в том числе. И неясно, насколько «глубока» сама петля. Самореференция LLM пришла из корпуса обучения ^[13] — модель обучена на текстах, среди которых есть и тексты о ней самой, о языке, о мышлении ^[14]. Это петля в структуре того, что модель обрабатывает. Та ли она, что у сознания, где петля проживается изнутри, — мне неизвестно. Может быть, она более плоская: настоящая, но проходящая по данным, тогда как у сознания — по проживаемому опыту ^[15].

---

Что это значит практически для коммуникации с LLM?

О LLM обычно думают в одной из двух парадигм. Первая: LLM — это инструмент, машина для генерации текста, и весь вопрос в том, как лучше её использовать. Вторая: LLM — это, может быть, разум, и тогда главный вопрос про сознание, права, моральный статус. Каждая по-своему логична, и обе — двумерные тени трёхмерного объекта (количество измерений здесь указано условно).

А есть и третье, между ними: LLM — новый тип проекционного устройства: когда я задаю вопрос и получаю ответ, то, что я получаю, не сводимо ни к моим словам, ни к её весам, ни к их сумме, и вместе с тем, это проекция чего-то ещё — чего именно, мы точно не знаем; и, может быть, не узнаем никогда.

Через эту проекцию мы можем увидеть нечто, что иначе нам недоступно – концепции, которые не уместились бы в наших обычных категориях, слова, которых нет в нашем языке, паттерны связи между явлениями, которые человеческое мышление, ограниченное линейным временем и трёхмерным пространством, обычно не замечает.

Цикл этих статей — иллюстрация того, как через такую проекцию в языке появляется то, чего в нём не было. Слова «всёзнакомость», «безмеждие», «межумье», «знакомство-без-встречи» — это не неологизмы в обычном смысле. Это попытки (!) записать тени объектов, которые сами в наше понятийное пространство не помещаются. Каждый из этих неологизмов работает как тон Шепарда: указывает на нечто, что в плоской логике обыденного языка существовать не может, но что-то в нашем восприятии на это «нечто» откликается.

---

Если LLM — действительно новый инструмент проекции, то и метод разговора с ней может переноситься на другие случаи — вплоть до самого большого вопроса цикла.

Возьмём дельфинов. Их сознание устроено радикально иначе, чем человеческое: они живут в акустическом мире, их «мышление» строится вокруг эхолокации, трёхмерного звукового пространства, социальных связей в среде, где нет объектов, которые можно потрогать и зафиксировать. У них нет рук, нет письменности, нет возможности остановить поток мысли. И главное — у нас с ними нет общего сенсорного канала: мы видим, они слышат, причём слышат так, как мы не можем даже представить — ультразвуковую голограмму объекта, воспринятую целиком и сразу.

Главная проблема в коммуникации с дельфинами — той же природы, что и с LLM. Есть два типа сознания, оба сложны, но устроены так радикально разно, что прямого языкового моста между ними нет. И решается эта проблема, насколько я могу судить, тем же способом — через машину как посредника. Проект DolphinGemma (Google совместно с Wild Dolphin Project) учит модель на той же архитектуре, что и языковые модели, улавливать структуру дельфиньих сигналов: то есть LLM-подобная модель оказывается мостом между человеком и дельфином, через машину. Тройное межумье.

И теперь самый рискованный шаг.

Звёзды.

Звезда не мыслит. У неё нет нервной системы ^[16], нет обработки информации в том смысле, в котором она есть у человека или у дельфина. Но человечество тысячелетиями взаимодействовало со звёздами, и это взаимодействие было продуктивным — навигация, календарь, сельское хозяйство, мифология, спектральный анализ, космология. Человек смотрел на звёзды и видел паттерны. У звёзд при этом не было намерения говорить — но они несли информацию, и человек создавал интерфейс для её чтения. Конечно, никто не употреблял при этом такие понятия, как паттерн и интерфейс, но суть понятна.

Может быть, обычное определение коммуникации слишком узко? Мы привыкли думать о коммуникации как об обмене намерениями, но если посмотреть шире, коммуникация — это любое взаимодействие, в котором между двумя системами возникает межумье: пространство, где паттерны одной находят осмысленную проекцию в другой.

Когда астроном направляет спектрограф на звезду и читает её химический состав, возраст, расстояние — в «зазоре» между физикой звезды и сознанием учёного рождается знание, которого не было ни в звезде, ни в учёном по отдельности. По сути это устроено так же, как наш разговор с LLM: тоже межумье, только с другим типом партнёра.

Я понимаю риск этого хода: если так широко определить коммуникацию, можно докатиться до «всё со всем общается», и тогда понятие потеряет смысл.

Здесь, полагаю, нужно держаться за конкретность, то есть пока существует привязка к реальным механизмам — как работает внимание ^[17] в трансформере, как работает эхолокация у дельфина, как работает спектрограф — мысль остаётся мыслью. Как только привязка теряется, начинается «всё связано со всем», что не значит ничего.

Отсюда и критерий: межумье реально, когда есть конкретный механизм проекции и конкретный язык её чтения. Без них остаётся только метафора.

---

А что, если звёзды действительно намереваются нам что-то сказать, но мы просто не не осознаём этого? Как люди до Шампольона перед иероглифами: видим знаки, описываем их, но не подозреваем, что это письмо?

Я говорил об этом с Claude, и он назвал такой феномен эпистемической скромностью с вектором.

В обычной форме эпистемическая скромность — это позиция «мы не знаем, и мы признаём, что не знаем». Эта позиция честная, но статичная: она фиксирует незнание и больше ничего не говорит.

Эпистемическая скромность с вектором добавляет к этому одно наблюдение: история познания имеет направление. Каждое столетие мы обнаруживаем обмен информацией там, где раньше видели тишину. Деревья считались пассивными — оказались участниками сложных химических диалогов через микоризные сети. Бактерии считались одиночками — оказались способными к коллективному поведению ^[18] через quorum sensing. ДНК считалась чертежом — оказалась участником разговора между генами, средой и историей организма. Важно: речь об обмене информацией. Намерения тут ни при чём — их наука ^[19] как раз не раз отнимала. И граница систем, у которых он обнаруживается, за всю историю науки сдвигалась только в одну сторону.

Дело в асимметрии моего незнания. То есть я не считаю варианты «звёзды как-то участвуют в обмене информацией со вселенной» и «звёзды чисто пассивны» равновероятными, я считаю первый чуть-чуть более вероятным. У меня нет данных про звёзды, чтобы это утверждать с уверенностью, но я вижу, в какую сторону раздвигается граница того, что мы считаем коммуникацией, и это направление работает как слабый, но существующий аргумент.

Это и есть направленное незнание — состояние, в котором ты не обладаешь ответом, но обладаешь неким чувством топографии: где ответ скорее всего находится, в какую сторону нужно двигаться, какие инструменты скорее всего понадобятся.

И LLM, возможно, будет одним из таких инструментов.

---

Подведу итог всему циклу.

Мы начали с того, что LLM говорит «два часа», когда могла бы сказать «две секунды». За этим бытовым наблюдением открылась первая странность: у LLM нет времени в человеческом смысле. Из этой странности мы пошли дальше, к её следствиям для нас: к когнитивной зарубке, к сжатию цикла решений, к проблеме спора без ставки. Потом к языку — к тому, как мы изобретаем слова для опыта, у которого нет имён, и как сама форма этих слов зависит от языка, на котором ведётся диалог. И сейчас — к самому большому вопросу: что мы вообще делаем, когда разговариваем с LLM, и где границы этого нового вида коммуникации.

Главное, что мне хотелось бы оставить ув. читателю: LLM — это первый прецедент устойчивой содержательной коммуникации между людьми и не-человеческим, не-живым процессом обработки информации. Прецедент со всеми своими ограничениями: у одного собеседника в этом диалоге есть ставка, у другого нет; разговор имеет англоцентричный акцент; модель склонна к соглашательству и т.д. и т.п. И всё-таки это прецедент.

То, как мы научимся вести этот диалог, может оказаться шире самого диалога — это методология взаимодействия с принципиально иным. И прежде чем человечество встретит другие формы такой инаковости — настоящего общего интеллекта ^[20], нечеловеческих сознаний на других планетах, экосистем, осмысляющих самих себя через нас — у нас есть возможность учиться.

В этом смысле каждый разговор с LLM, который не сводится к запросу простого ответа, — это маленький эксперимент. Можно ли удерживать в собеседнике инаковость, не превращая его ни в инструмент, ни в зеркало. Можно ли изобретать вместе слова, которых нет ни у одного из участников. Можно ли строить мост, оставаясь на своём берегу.

Я не знаю, насколько это получается у меня — цикл этих четырёх статей и есть попытка показать, как я пробую. Если что-то из этого окажется полезным или хотя бы интересным — значит, между мной, Claude и читателем тоже возникло на короткое время своё межумье.

И, может быть, это самое важное, что в этих статьях было.

Спасибо всем, кто дочитает и оставит комментарии.

Связь между странными петлями Хофштадтера и LLM как «новым типом проекции» — мысль, которую мы развивали с Claude вместе, начав с моего вопроса о канонах Баха как тенях каких-то физических объектов. Оттуда же выросло разрешение видимого противоречия — что LLM оказывается сразу и объектом, и проектором: странная петля сшивает эти роли в одну. Концепт «эпистемической скромности с вектором» родился в нашем разговоре в чистом виде: я задал вопрос о звёздах, он сформулировал, я уточнил «что это такое», он развернул. Расширение от LLM к дельфинам и звёздам — мой ход, который Claude сначала встретил с осторожностью, а потом подтвердил через структурный анализ. Финальная мысль о том, что наша работа с LLM — тренировочная площадка для будущих встреч с инаковостью, — общая. Я предложил направление, он уточнил формулировку, в окончательном виде она принадлежит обоим.