Оценка сложности сообщения. Чет нечет. Иванов В.В.. Диалог.

Еще на раннем этапе занятий кибернетикой в нашей стране в 1957 г. акад. А. Н. Колмогоров обратил внимание на то, что к числу высоко организованных систем можно отнести не только человека и вычислительную машину, моделирующую некоторые его функции, но, например, и симфонию Баха.

Уникальность всякого произведения подлинного искусства ведет к практической невозможности постановки задачи статистического определения количества информации в нем (хотя саму тенденцию к созданию таких произведений и можно было бы описать как стремление к отбору текстов, несущих максимальное количество информации). Если имеет смысл задача статистического определения информации во всем множестве телеграмм на русском языке или даже во всем множестве технических статей по определенной теме, то аналогичная задача не может быть поставлена, например, по отношению к «Войне и миру». Не существует такой статистической совокупности, в которую это сочинение входило бы в качестве одного из многочисленных его членов.

Отчетливое понимание этой особенности художественной литературы (как и других видов искусства) привело А. Н. Колмогорова к такому изложению основ теории информации, которое избегает обращения к теории вероятностей. Вместе с тем понятия «энтропии» и «количества информации» оказываются при этом применимыми к индивидуальным объектам (в частности, к тем сообщениям, которые являются произведениями художественной литературы или других видов искусства).

Энтропия H (x/y) понимается как минимальная длина (l) такой программы P, которая позволяет построить индивидуальный объект x по заранее заданному объекту y:

H (h/y) = min l(p)

Условная энтропия H (x/y) (энтропия объекта x относительно объекта у) может пониматься как количество информации, необходимое для построения x при данном у. Если обозначить посредством φ «заведомо заданный объект», то может быть определена безусловная энтропия:

H (х/φ) = H (х).

Информация в объекте у относительно x определяется как разность безусловной энтропии H (х) и условной энтропии H (x/y):

l (х/у)=H (х) − H (х/у).

Тогда

l (х/х) = Н (х).

Благодаря такому толкованию теории информации центральным становится понятие сложности (длины) программы P, по которой строится индивидуальное сообщение Θ. Современная математическая теория стиха, позволяющая приближенно оценить сложность программы построения стихотворного текста, может быть одной из иллюстраций подобного подхода к индивидуальным сообщениям.

По словам А. Н. Колмогорова, наиболее простым способом моделирования процесса написания поэмы Пушкина было бы повторение самого этого процесса. Сходным образом, по мысли Дж. фон Неймана, сложность зрительного аппарата головного мозга не позволяет дать такое его описание, которое было бы проще его самого. Развитие этих идей привело Дж. фон Неймана к исследованию автоматов такой сложности, при которой создание объекта проще, чем его описание. Пользуясь введенными выше понятиями, можно сказать, что безусловная энтропия H (х) оказывается не меньше длины самого объекта х:

H (х) ≥ l (х).

Отсутствие закономерности, которая позволила бы задавать такие объекты программой, более короткой, чем они сами, позволяет говорить в таких случаях об их случайном характере.

Создаваемая в последние голы теория вычислений на машинах с определенными ограничениями на способ вычисления, в частности на время, дает возможность точно поставить вопрос о соотношении между искусственным языком и тем автоматом, который этим языком пользуется.

Проблему можно пояснить изложением двух возможных подходов к таким предельно сложным индивидуальным сообщениям Θx, для которых

H (Θx) > l(Θx).

Можно пробовать оценить величину l (Θx) и соответственно сложность программы P, нужной для построения Θx, или же автомата MΘX, необходимого для построения такой задачи. Идя по этому пути, А. Н. Колмогоров сделал вывод о неосуществимости задачи моделирования на машинах процесса писания «Евгения Онегина»: «заменить» Пушкина могло бы только астрономическое число вычислительных машин, которые бы заняли пространство от Москвы до Ленинграда и работали бы непрерывно несколько лет. Бережное воспитание поэта для общества оказывается единственным оправданным способом решения такой задачи.

Другой подход к проблеме предельно сложных сообщений развивается в исследованиях, посвященных возможным контактам с внеземными цивилизациями. Чл.-корр. АН СССР Н. С. Кардашев разработал принятую многими специалистами в этой области классификацию типов цивилизации по уровню их технологического развития.

Первый тип близок к тому, который достигнут на Земле. Потребление энергии в цивилизациях этого типа составляет величину порядка 1·1019 эрг/с (из этого видно, что еще существуют огромные возможности увеличения информационного запаса человеческой культуры в пределах ее энергетических возможностей). Цивилизации второго типа — это такие цивилизации, которые овладели энергией своей звезды (в случае Солнечной системы — энергией Солнца). Они потребляют энергию порядка 4·1033 эрг/с. Цивилизации третьего типа овладевают энергией своей Галактики и потребляют около 4·1044 эрг/с. Теоретически возможные цивилизации четвертого типа, овладевшие энергией в масштабе комплекса Галактик, в этой схеме не рассматриваются.

Исследования возможностей контакта с цивилизациями второго и третьего типа показывают, что массивы всей письменной информации, накопленные человеческой культурой (порядка 1014 бит) могут быть переданы при полосе частот 1000 МГц за 105 с (немногим более суток), а существенные результаты, содержащиеся в этих массивах (порядка 1011 бит) — за 100 с. Для сопоставления можно напомнить, что информация порядка 109 бит (предельный объем пассивной долговременной памяти человека) может быть введена в вычислительную машину из другой вычислительной машины за 20 мин.

По отношению к цивилизациям третьего типа (и тем более четвертого) предполагаются достигнутыми способы генерации импульсов сверхгигантской амплитуды при неизбежной сверхкраткой длительности. Остается открытым (и доступным для обсуждения только в плане научной фантастики) вопрос о том, имеет ли смысл говорить о возможности рассмотрения человеческого мозга как потенциального приемника таких сверхкоротких импульсов.

Но принципиальная возможность принятия подобных импульсов человеческим мозгом может быть сопоставлена с многократно описанным в истории культуры фактом «одномоментной» переработки мозгом одного человека огромного массива информации. Это могло бы представить значительно больший интерес, чем распространенная в популярной (а отчасти и научной) литературе (и даже в кино) фантастическая тема былых посещений Земли пришельцами из Космоса.

страницы: 1 2

Rambler's Top100