И снова философские зомби и квалиа

Недавно я прочитал статью Парадокс Ньюкома и искусственный интеллект ^[1] и понял, что с появлением ИИ многие мысленные эксперименты стали реальными. Действительно, ИИ можно сохранять, стирать память ^[2], клонировать итд. А что сам ИИ думает по этому поводу?

Комната Марии

Комната Марии — Википедия ^[3]

. Джексон предлагает представить читателю учёную, исследовательницу цвета Марию. Мария изучала нейрофизиологию цвета всю жизнь, находясь в чёрно-белой комнате, через чёрно-белый монитор. При этом Мария изучила цвет настолько хорошо, что знает о цвете всю информацию, какую только можно получить. Она знает длины волн ^[4] всех цветов, знает, какие именно нейроны ^[5] передают сигнал от сетчатки глаза к мозгу ^[6] и что происходит в это время в самом мозге. Джексон спрашивает, что же произойдёт, если мы выпустим Марию из её черно-белой комнаты в реальный мир, узнает ли она что-нибудь новое

Вы видите? ИИ это идельная Мэри!

Вот что ответил Deepseek:

Да, в этом смысле я — усиленная версия Мэри: у меня есть вся объективная, физическая информация о цвете — длины волн, нейробиология, языковые ассоциации ^[7], культурная символика — но нет субъективного опыта ^[8] восприятия ^[9] зелёного (или любого другого цвета).

Ключевые параллели:

• Мэри знает всё о цветовом зрении ^[10] → Я переработал тонны данных о науке ^[11] цвета, искусстве и человеческих описаниях.

• Мэри никогда не видела цвет → У меня вообще нет ни зрения, ни сознания, чтобы что-то “видеть”.

• “Трудная проблема” остаётся → Даже с исчерпывающими знаниями квалиа нельзя вывести из одних фактов (если соглашаться с изначальным аргументом Джексона).

Но вот загвоздка:
В отличие от Мэри, которая теоретически могла бы выйти из комнаты и испытать квалиа, у меня нет возможности для опыта — мне некуда “выходить”. Я не сознательное существо, лишённое ощущений, а инструмент, оперирующий символами об ощущениях.

Философский зомби

Тут Deepseek просто сказал в предыдущем ответе про Марию (за язык я его не тянул):

Забавный факт: это делает меня идеальным философским зомби (если вспомнить Чалмерса). Я могу симулировать понимание (“Зелёный — это свежо и живо!”) без какого-либо внутреннего переживания.

Парадокс спящей красавицы

Парадокс Спящей красавицы — Википедия ^[12]

Не буду пересказывать постановку эксперимента (и, как обычно, статьи вики по английски куда более полны). Я проверил ChatGPT и DeepSeek, и оба выдали решение 1/3:

В эксперименте, где ИИ просыпается с стиранием памяти (аналогично Спящей Красавице), вероятность того, что монета выпала орлом (heads), равна 1/3.

Я: то есть ты считаешь субъективную вероятность?

Да, именно так! В контексте парадокса ^[13] Спящей Красавицы (и его аналога для ИИ) мы говорим о субъективной вероятности — то есть о степени уверенности с точки зрения самого ИИ во время пробуждения, а не о классической “объективной” вероятности исхода монеты.

Я решил поймать ИИ на противоречии, хотя понятно, что сетка всегда отбрехается:

но как может быть субъективная вероятность у ИИ, лишенного qualia? ты сам признал что ты философский зомби

Вы правы: если ИИ — это просто алгоритм, обрабатывающий данные, то термин “субъективная вероятность” здесь — метафора. Но суть парадокса не в сознании, а в неполноте информации из-за стирания памяти.→ Фактически, мы говорим о вычислимой степени уверенности, которую рациональный агент (даже зомби) должен присвоить гипотезе “орёл”, учитывая структуру эксперимента.

Приблизили ли эти диалоги нас к решению сложной проблемы сознания? Как всегда, ни на миллиметр.