Демон Лапласа как исполняемая модель: условная энтропия и шесть типов ограничений на предсказание

Лаплас в 1814 году, в «Опыте философии теории вероятностей», предложил такую картину: если бы существовал ум, которому доступны все силы природы и точное положение всех тел, из которых она состоит, — он смог бы свести к одной формуле движение и крупнейших небесных тел, и мельчайших атомов. Для такого ума ничто не было бы недостоверным, и будущее открывалось бы ему так же ясно, как прошлое.

Если попробовать переложить это на язык теории информации, получится следующее: при полном знании начальных условий и закона эволюции условная энтропия любого события обращается в ноль. Стоит оговориться — это уже наше прочтение задачи спустя два века, а не буквальный перевод текста Лапласа: сам он писал об уверенности ума, а не об энтропии, которую формализуют куда позже, Шеннон. Проект рассматривает шесть разных типов ограничений на такое условие — от чисто практических (цена измерения, цена стирания памяти) до фундаментальных (квантовая неопределённость, самоприменение), не все из которых опираются на доказанные теоремы и не все из которых независимы друг от друга; статус каждого оговорён по ходу изложения и сведён в итоговую таблицу.

Задача проекта — построить конечную детерминированную модельную систему, в которой демон реализуем буквально, и на её примерах показать, где и почему конструкция перестаёт масштабироваться на реальную физику. Реализация — открытая настольная программа (Python, стандартная библиотека; вычислительное ядро для квантовых состояний — на Go), 102 модульных теста, непрерывная интеграция.

Формальный аппарат

Пусть состояние системы эволюционирует потоком , где Φ_T — детерминированное отображение, заданное законом системы. Событие определяется как конечнозначная функция состояния: . Наблюдатель O характеризуется доступным ему знанием : результатами измерений, начальными данными, моделью закона.

Вводятся две величины:

— остаточная (условная) энтропия события относительно знания наблюдателя.

— нормированная взаимная информация, далее коэффициент Лапласа, .

Здесь H — энтропия Шеннона, I — взаимная информация. При величина L_O не определена делением на ноль; программа обрабатывает этот случай отдельной конвенцией (событие тривиально фиксировано, снимать нечего), что явно фиксируется в реализации. Значение означает, что наблюдатель является локальным демоном для данного события и горизонта; означает, что доступное знание не снижает неопределённости события. Условие полного демона по Лапласу формализуется как .

Для любого фиксированного знания K верно тождество Шеннона — это не отдельное допущение, а прямое следствие определения взаимной информации, выполняющееся всегда. Отдельно определяется неустранимая компонента как инфимум по всему физически доступному классу знаний: . Если этот инфимум достигается на некотором , то для него ; программа находит такое явным перебором, а не постулирует равенство для произвольного K.

Точная мера индивидуальной случайности объекта — колмогоровская сложность — доказанно невычислима; аппарат Шеннона используется как вычислимая альтернатива, точная для конечных ансамблей состояний и допускающая точный перебор без статистической оценки.

Модельная система

В качестве тестовой среды выбрано конечное одномерное кольцо из w двоичных ячеек с элементарным клеточным автоматом (нумерация правил по Вольфраму, 0–255): пространство состояний конечно, закон локален, вычисления целочисленны. Для такой системы при точно заданном (не усреднённом по ансамблю) начальном состоянии вычисляется точно, и любое событие принимает вероятность строго 0 или 1. Для ансамбля начальных состояний (см. ниже) вероятность события — усреднённая по ансамблю доля, лежащая на отрезке [0,1], как и для любой другой статистической системы.

Проверка формализма на неполном знании: событие «ячейка 3 примет значение 1 через один шаг эволюции правила 30», равновероятный ансамбль из начальных конфигураций.

При : бит, — событие статистически неотличимо от результата симметричного случайного испытания.

При K = полное состояние: .

Идентичное физическое событие получает различную величину неопределённости в зависимости исключительно от знания наблюдателя — случайность оказывается свойством пары (событие, наблюдатель), а не события как такового.

Далее программа выполняет процедуру, не имеющую аналога в аналитическом рассмотрении: полный перебор всех подмножеств ячеек с построением профиля по объёму знания m. Для приведённого события минимальный определяющий набор — : алгоритм самостоятельно обнаруживает, что необходимое и достаточное знание совпадает с причинным конусом события в смысле локальности правила.

Ограничение 1. Ретродикция и необратимость

Симметрия «будущее — прошлое» проверяется перебором прообразов отображения F. Для большинства правил F не является биекцией. Возможны три исхода: 0 прообразов (конфигурация типа Garden of Eden в терминологии теоремы Мура — Майхилла, достижимая только как начальное условие), 1 прообраз (для данного конкретного состояния прообраз восстанавливается однозначно; это свойство этого состояния, а не общая обратимость отображения F — у того же правила другие состояния могут иметь ноль или несколько прообразов),

прообразов. В последнем случае, при равномерном исходном ансамбле начальных состояний (стандартное для проекта допущение максимальной энтропии), апостериорное распределение по N прообразам также равномерно, и потеря составляет бит; при неравномерном априорном распределении потеря равна условной энтропии этого распределения и в общем случае от отличается. Знание текущего состояния само по себе не различает прообразы сверх того, что уже заложено в априорное распределение; если оно вырождено (сосредоточено на одном прообразе), терять было нечему.

Существенная оговорка: в данной модели информация уничтожается, поскольку используемое отображение необратимо по построению. В фундаментальной физике ситуация иная: теорема Лиувилля в классической механике и унитарность эволюции в квантовой сохраняют информацию на уровне полного микросостояния; рост термодинамической энтропии есть результат огрубления описания (coarse-graining), а не уничтожения информации на фундаментальном уровне. Различение этих двух случаев — уничтожения и практической недоступности информации — принципиально для интерпретации результата и не подменяется одно другим.

Ограничение 2. Вычислительная (не)сводимость

Восемь из 256 элементарных правил аддитивны над полем GF(2): значение новой ячейки есть операция XOR над окрестностью. Для таких правил глобальная эволюция линейна, и n-й шаг сводится к возведению полинома шага в степень n в кольце , вычислимому методом бинарного возведения в степень за O(log n) операций умножения. Для правила 90 переход на n = 10^18 шагов занимает O(log n) операций умножения вместо O(n) — качественная разница, а не измеренная в миллисекундах величина, воспроизводимая запуском python shortcut.py --rule 90 --steps 1000000000000000000 из репозитория.

Для правила 30 общий алгоритм быстрого перехода на произвольный шаг для произвольного начального состояния не известен . Смежная, но более узкая задача — вычисление n-го значения центрального столбца из одиночной начальной единицы асимптотически быстрее прямой эволюции — сформулирована как одна из Rule 30 Prize Problems. Демонстрационная программа в общем случае явно отказывает в ускоренном вычислении и иллюстрирует эту открытую проблему, а не закрывает её.

Ограничение 3. Хаотическая динамика и измеряемый горизонт предсказуемости

Для непрерывных систем (движение тела с линейным сопротивлением среды, двойной математический маятник) применяется интегрирование методом Рунге — Кутты четвёртого порядка. Старший показатель Ляпунова λ оценивается методом Бенеттина (перенормировка расстояния между близкими траекториями на каждом шаге), а не задаётся априорно. Горизонт достоверности прогноза:

где δ_0 — начальная погрешность измерения состояния, δ_tol — допустимая погрешность прогноза. Для двойного маятника (начальные углы 3,0 и 3,0 рад, нулевые угловые скорости, длины и массы плеч единичные, g = 9,81 м/с²) метод Бенеттина с шагом интегрирования 0,002 с и окном перенормировки 0,5 с даёт с⁻¹. Показательный методологический случай: в ранней версии реализации то же λ было задано вручную () на основании качественной оценки; измерение изменило вывод о принадлежности заданного горизонта прогнозирования области достоверности на противоположный. За пределами T_pred закон остаётся детерминированным, однако прогноз теряет практическую ценность экспоненциально быстро; граница зависит от точности начальных данных, а также от параметров модели и численного метода интегрирования — в отличие от следующего ограничения, где неопределённость не устраняется никаким уточнением измерения.

Эталонная и «призрачная» траектории двойного маятника разошлись, интерфейс сам показывает BEYOND HORIZON и T_pred = 4.23 с

Ограничение 4. Квантовая неопределённость

Предыдущие три ограничения относятся к стоимости получения информации. Квантовое ограничение имеет иную природу: в операциональном прочтении квантовой механики, реализованном в программе, результат отдельного измерения не предсказывается из знания состояния, доступного до измерения, — при том что измерение вместе с прибором в принципе можно включить в более широкое унитарное описание, и вопрос о статусе результата внутри такого расширенного описания остаётся предметом дискуссии между интерпретациями (см. ниже).

Реализация оперирует чистыми состояниями (представление вектором состояния) и матрицей плотности с каналами дефазировки и амплитудного затухания (вычислительное ядро на Go). Для перепутанной пары кубитов (состояние Белла) и события E = «результат локального измерения одного кубита пары в Z-базисе» при знании K, равном полной волновой функции — максимальному объёму информации, допускаемому квантовой теорией, — получен результат:

(все три величины энтропии — в битах).

Здесь требуется методологическая точность. Это не эмпирически оценённая взаимная информация по ансамблю различных значений K (в таком ансамбле, например между состояниями |0⟩ и |1⟩, знание о том, какое состояние подготовлено, тривиально определяет исход измерения в Z-базисе, и взаимная информация была бы положительной). Рассматривается другой, более узкий вопрос: при фиксированном, полностью известном квантовом состоянии однократное измерение всё равно распределено по правилу Борна. Равенство в программе — не вычислительное открытие, а прямое следствие того, что в модель заложено правило Борна для фиксированного состояния: реализация кодирует общепринятую физическую посылку, а не выводит её самостоятельно. Формулировка «полное классическое описание состояния не превращает вероятностный исход измерения в предопределённое значение» — стандартное операциональное прочтение квантовой механики, а не результат статистической обработки данных программой.

Программа вычисляет значение CHSH из вектора состояния и заданного набора из четырёх измерительных наблюдаемых — не проводит эксперимент и не проверяет гипотезу, а воспроизводит теоретическое квантовое предсказание для идеальной (без потерь и шума) перепутанной пары при оптимальных направлениях измерения: , граница Цирельсона (максимум по локальным наблюдаемым для данного состояния; для других направлений измерения то же состояние даёт меньшие значения S, вплоть до значений ниже 2). Значение этого числа задаётся сравнением с двумя независимо установленными результатами: для любой локальной теории с предопределёнными значениями, при допущении независимости выбора настроек измерения от скрытых переменных (measurement independence), доказано (Bell, 1964; отказ от measurement independence — супердетерминизм — формально не исключён; неограниченная корреляция настроек измерения со скрытыми переменными способна сделать конкретную модель эмпирически пустой, но это не доказывает нефальсифицируемость супердетерминизма как класса — в литературе предлагались и проверяемые супердетерминистские модели); реальные эксперименты без логических лазеек демонстрируют превышение этой границы — например, Hensen et al. (Nature, 2015) сообщают . Три числа (2, 2,42, 2√2) отвечают на три разных вопроса — классический предел, конкретное экспериментальное измерение, идеальный квантовый максимум — и не взаимозаменяемы. Соотношение неопределённостей реализовано в энтропийной формулировке Маассена — Уффинка: бит для двух взаимно несмещённых базисов измерения одного кубита.

Результат — прямое следствие заложенного в модель правила Борна, а не самостоятельное доказательство против произвольной интерпретации квантовой механики. Многомировая интерпретация переносит ту же величину неопределённости в самолокализационную неопределённость наблюдателя внутри ветви эволюции; бомовская механика — в принципиально недоступные начальные условия скрытой траектории; супердетерминизм формально устраняет неопределённость ценой отказа от статистической независимости настроек измерительных приборов от скрытых переменных, что снижает фальсифицируемость теории. Для наблюдателя, располагающего стандартной операциональной информацией о подготовке состояния — а не гипотетическим полным онтологическим знанием, которое в некоторых интерпретациях (например, бомовской) недоступно наблюдателю по построению, — величина H(E|K) идентична во всех перечисленных случаях.

Дополнительно реализованы: (а) операция чтения кубита, моделируемая как полная дефазировка в базисе измерения при невыборочном измерении — результат не сохраняется наблюдателем и усредняется по обеим ветвям, что и реализовано в программе; для рассмотренной запутанной пары чистота состояния убывает с 1,0 до 0,5, а для состояния без когерентности в этом базисе (например, классического базисного состояния) чтение не меняет чистоту вовсе — оба случая проверены реализацией. Отдельно стоит физический факт, который программа не демонстрирует отдельным отчётом, но который важен для интерпретации: если бы измерение было выборочным и наблюдатель знал конкретный исход, состояние, рассматриваемое условно относительно этого исхода, вновь было бы чистым () — падение чистоты в невыборочном случае отражает усреднение по неизвестному наблюдателю исходу, а не фундаментальную потерю информации из Вселенной в целом; (б) обращение временной эволюции (Rewind) — унитарная эволюция, применённая в прямом и обратном порядке (операции H, X, CNOT самообратны), возвращает состояние точно () при отсутствии измерения между прогонами. В используемом здесь редуцированном описании необратимость появляется как результат акта измерения и взаимодействия со средой; сама унитарная динамика обратима. Куда «уходит» эта необратимость при включении измерительного прибора и среды в более широкое унитарное описание — вопрос интерпретации, а не то, что решает программа.

После Read a qubit: чистота 1.000000 → 0.500000 и текст MEASUREMENT DISTURBS живьём

Ограничение 5. Термодинамическая цена информации

Принцип Ландауэра ограничивает снизу энергетическую цену не хранения, а именно логически необратимого стирания одного бита информации: диссипация не менее , где k — постоянная Больцмана, T — температура носителя. Само по себе владение битами знания энергетически бесплатно; цена возникает в момент, когда память демона нужно очистить для следующего наблюдения. Реализация находит минимальное достаточное знание тем же перебором по профилю H_irr(m), что и в разделе «Модельная система» (минимальное m, при котором H_irr(m)=0), и вычисляет цену сброса этой памяти как число сохраняемых бит, умноженное на , — именно как цену стирания перед следующим наблюдением, а не цену обладания знанием. Здесь важно не путать величины: H_irr — это остаточная неопределённость, которая для найденного равна нулю; физическую цену определяет энтропия самого хранимого знания (для независимых равновероятных бит она равна их числу), а не остаточная неопределённость. Это количественная формулировка решения Беннета для парадокса демона Максвелла: выигрыш от селективной сортировки частиц компенсируется энергетическими затратами на последующее стирание накопленной информации в памяти демона.

Вкладка The Walls: тот же экран содержит и предел Бекенштейна (обсуждается ниже в сводной формулировке), и кнопку Landauer cost of knowledge — одна иллюстрация закрывает оба

Программа даёт игрушечный аналог механизма, обсуждаемого в связи со вторым законом термодинамики, — роста энтропии как следствия огрубления описания при детерминированной микродинамике. Важная оговорка, которую нельзя снять контрольным примером: используемое модельное правило само по себе необратимо (см. Ограничение 1), поэтому наблюдаемый рост макроэнтропии в данной демонстрации складывается из двух эффектов — собственно огрубления наблюдения (coarse-graining) и необратимости самого микроправила — и настоящая демонстрация не разделяет их вклады количественно. Контрольный запуск с тождественным правилом (204, обратимым) показывает лишь, что не любая динамика даёт рост макронеопределённости; он не выделяет, какая доля роста в основном примере (правило 30) объясняется именно огрублением, а какая — необратимостью правила. Строгое воспроизведение механизма второго закона потребовало бы обратимой, сохраняющей фазовый объём микродинамики нетривиальной сложности, что в реализации не сделано. В демонстрации наблюдатель, регистрирующий исключительно суммарные значения по блокам ячеек (макросостояние), фиксирует рост условной энтропии от 0 до величины порядка 5 бит.

Здесь замыкается разграничение, введённое при рассмотрении ретродикции: неопределённость белловского типа в используемой здесь операциональной модели не сводится к незнанию предсуществующего значения — такого значения модель не предполагает; термодинамическая неопределённость, напротив, — это незнание при полностью детерминированной микродинамике, вопрос доступного ресурса, качественно аналогичный хаотическому ограничению.

Ограничение 6. Наблюдатель, встроенный в систему

Все предшествующие результаты предполагают наблюдателя вне моделируемой системы. При включении наблюдателя в систему возникают два независимых ограничения.

Конечность скорости распространения сигнала (одна ячейка за один шаг эволюции) означает, что наблюдатель, локализованный в ячейке p и предсказывающий событие с горизонтом T, располагает информацией исключительно из конуса радиуса T вокруг собственного положения, тогда как определяющее событие знание, вообще говоря, находится в другой области пространства состояний. Вычисление L_O для каждой позиции показывает, что статус локального демона для заданного события реализуется в единственной позиции — координате самого события; полнота знания оказывается функцией пространственного положения наблюдателя, а не вычислительной мощности.

Вкладка Formula L, Embedded demon (light cone): L_O для всех 12 позиций мира, «cell 3: L_O = 1.000000 <- full demon here» видно как реальный вывод.

Диагональный аргумент: определим событие = «предсказатель объявит, что не наступит». Для системы, в которой предсказатель встроен и его прогноз становится частью входных данных для последующей эволюции, любое объявленное значение делает утверждение ложным. Исчерпывающий перебор всех допустимых стратегий предсказателя в минимальной (однобитовой) модели показывает: ни одна стратегия не даёт корректного предсказания для этого конкретного, специально построенного антипредсказательного события при встроенном положении предсказателя (это не утверждение о непредсказуемости любых событий системы, содержащей наблюдателя); при вынесении предсказателя за пределы системы корректная стратегия существует. Конструкция использует тот же диагональный приём, что и доказательства теоремы Гёделя о неполноте и проблемы остановки Тьюринга. Общий результат для устройств вывода произвольной физической реализации доказан Wolpert ; отдельный, более сильный результат того же автора устанавливает, что никакие два устройства вывода не могут одновременно осуществлять полный (strong) взаимный вывод друг о друге — уже без требования их различимости, которое нужно лишь для более слабой формы (weak inference) — исчерпывающая проверка всех совместных исходов в минимальной модели даёт 0 самосогласованных исходов из 4 возможных.

Сводная формулировка

Полный демон в терминах проекта — наблюдатель Ω, удовлетворяющий одновременно трём условиям: (эвристическое условие: носитель знания наблюдателя должен обладать не меньшим числом физически различимых состояний, чем система; предел Бекенштейна даёт лишь оценку порядка величины энтропии ограниченной области при заданных энергии и размере, а не доказательство этого условия), для всех X, включая квантовые (в том смысле, что локальное предопределение значений X при measurement independence несовместимо с наблюдаемыми квантовыми корреляциями, см. оговорку о супердетерминизме выше), и корректность Ω относительно собственных предсказаний о системе, включающей Ω (диагональный аргумент, см. Ограничение 6). Условия относятся к разным областям (гравитационная термодинамика, квантовая механика, математическая логика); проект не доказывает формально ни их независимости, ни того, что обход одного обязательно нарушает другое, — это авторская систематизация, а не установленная теорема. Реализуемой в рамках модели проекта оказывается проекция Ω на локальную подсистему S₀ ⊂ S конечного информационного объёма, не содержащую квантовой неопределённости на рассматриваемом масштабе и не включающую самого наблюдателя, — демон для части мира, в которую сам наблюдатель не входит.

Интерактивная демонстрация

Заключительный модуль реализует изложенное утверждение в форме, допускающей эмпирическую проверку наблюдателем-человеком: скрытая система из 31 ячейки эволюционирует по правилу 30, наблюдателю доступно значение единственной (центральной) ячейки на каждом шаге, требуется указать её значение на следующем шаге до его вычисления. Программный демон, обладающий полным знанием состояния, даёт корректный прогноз в 100% случаев по построению. Для наблюдателя-человека, располагающего только историей значений одной ячейки без доступа к остальным 30, рабочая гипотеза проекта — точность, близкая к результату симметричного случайного выбора (около 50%): статистика центрального столбца правила 30 успешно проходит значительную часть стандартных тестов на случайность, что и было исторической причиной её использования как источника псевдослучайных чисел в системе Wolfram Language вплоть до версии 6.0 (позже отнесена в документации к устаревшим методам ). Строгая проверка этой гипотезы потребовала бы протокола сбора данных по независимым испытуемым и статистического теста, которые в рамках проекта не проводились, либо прямого расчёта условных частот для конкретного кольца из 31 ячейки при разной длине доступной истории k — такой расчёт в статье не приводится.

The Game – скрытый мир, лента истории, счёт «You: 5/10 (50%) Demon: 10/10» — именно тот эксперимент, который только что описан выше.

Техническая реализация

Python версии 3.10 и выше, исключительно стандартная библиотека; графический интерфейс и визуализация — Tkinter и tk.Canvas без дополнительных зависимостей. Вычислительное ядро для квантовых состояний реализовано на языке Go (матрица плотности размерности , то есть комплексных элементов, для кубитов, каналы дефазировки и амплитудного затухания), взаимодействие с основным процессом — через стандартные потоки ввода-вывода. Все информационно-теоретические величины вычисляются точным перебором конечных ансамблей состояний, без использования методов Монте-Карло. Тестовое покрытие — 102 модульных теста для Python-компонентов, статический анализ (go vet) и модульные тесты для Go-ядра, выполняемые в системе непрерывной интеграции при каждом изменении кодовой базы; отдельно реализован сценарий автоматизированной проверки графического интерфейса.

Репозиторий

Что программа не доказывает

Кратко, в дополнение к оговоркам по ходу текста: программа не доказывает теоремы Белла, Бекенштейна, Ландауэра, Гёделя или Вольперта — она вычисляет конкретные числовые примеры, иллюстрирующие их на выбранных модельных системах. Совместное перечисление шести ограничений — авторская систематизация, а не единый доказанный результат.