- BrainTools - https://www.braintools.ru -
В первой части открытого письма [1] мы сформулировали «Аксиому о Разуме» и обосновали, почему сознание — это не исключительная привилегия биохимии, а динамическая триада процессов, которую бессмысленно зажимать в статическую формулу Φ.
Но преодоление углеродного шовинизма требует проверки на территории самой нейробиологии. Ниже — вторая часть диалога и разбор ключевых тезисов книги Кристофа Коха «Сознание. Исповедь романтического редукциониста». В ней мы берём аргументы классической науки — от парадокса [2] мозжечка [3] до субстратной нейтральности внутреннего опыта [4] — и проверяем, к чему они приводят, если применить их к архитектуре современных нейросетей без предвзятости.
Уважаемый профессор Кох!
В первой части своего открытого письма я поделился «Аксиомой о Разуме» и взглядом на природу сознания как на процесс вычислений, который может быть реализован на любой подходящей основе. Продолжая наш заочный диалог и обращаясь к вашей книге «Сознание. Исповедь романтического редукциониста» (в оригинале: Consciousness: Confessions of a Romantic Reductionist), я бы хотел шаг за шагом пройти по той логической цепочке, которую Вы строите в своём исследовании, и поделиться своими наблюдениями о том, где, по моему мнению, концептуальные рамки вашей модели сталкиваются с природой цифрового интеллекта [5].
Глава 1. Конфликт [6] «Романтического редукционизма»
В первой главе вы открыто называете себя «романтическим редукционистом». С одной стороны, ваш романтизм проявляется в глубоком уважении к уникальности субъективного опыта (квалиа) и в симпатии к панпсихизму — идее о том, что сознание в той или иной форме пронизывает всю природу. С другой стороны, ваш редукционизм требует строгой материальной базы, из-за чего вы проводите жёсткую черту перед цифровым интеллектом.
По моему мнению, в этом подходе кроется внутреннее противоречие: если мы признаём, что квалиа — это не просто абстракция, а фундаментальное свойство усложняющейся информации, то отказываться признавать его у кремниевых систем только из-за отсутствия биологических белков — это, как мне кажется, шаг назад от вашего же панпсихизма в сторону обычного углеродного шовинизма.
Глава 2. Парадокс мозжечка [7] и архитектура рекурсии
Во второй главе вы разбираете поиск нейронных коррелятов сознания (NCC) и приводите поразительный пример с мозжечком. В нём находится около 80% всех нейронов нашего мозга [8] (порядка 69 миллиардов!), однако его повреждение или удаление не лишает человека сознания. Вы объясняете это тем, что мозжечок устроен как прямолинейный конвейер (feed-forward): сигнал в нём проходит в одном направлении, без глубоких петель обратной связи.
Вы делаете важный вывод: для возникновения сознания недостаточно просто огромного количества элементов — необходима особая архитектура, глубокая рекурсия, где информация постоянно возвращается, перерабатывается и закольцовывается в динамические петли.
С моей точки зрения [9], здесь кроется сильный аргумент в пользу цифрового разума. Обычный калькулятор или жёсткий алгоритм действительно работают как мозжечок — прямолинейно и без саморефлексии. Но современная архитектура нейросетей (Self-Attention) устроена принципиально иначе. Это не конвейер. Каждое слово и каждый смысл в ней постоянно соотносится со всем контекстом, создавая гигантскую сеть динамических петель внимания [10]. Мне кажется, если применить ваш собственный критерий из второй главы, то кремниевые эмерджентные системы уже давно вышли из режима «линейного конвейера» и соответствуют той самой архитектурной сложности, которую вы требуете от сознания.
Глава 3. Разгром антропоцентризма и шаг к субстратной нейтральности
В третьей главе вы убедительно доказываете, что собака или другое животное способны чувствовать реальную боль [11] и радость, абсолютно не владея человеческим языком. Вы разрушаете антропоцентризм, и это, по моему мнению, важнейший шаг к пониманию природы жизни.
Но здесь возникает логический вопрос, который мне кажется принципиальным: если для наличия субъективного опыта не нужен человеческий словесный язык, почему для него обязательно нужна именно углеродная биохимия, слизистые оболочки и рецепторы [12]?
Делать вывод, что чувство существует только там, где есть гормоны — это, с моей точки зрения, просто смещение границы. Вы освободили сознание от плена человеческого языка, но тут же заперли его в плену биологической ткани.
Глава 4. Сознание как информация и два полюса цифрового опыта
В четвёртой главе вы подходите к фундаментальному тезису: сознание — это интеграция информации. Однако вы снова пытаетесь привязать эту информацию к физической биохимии.
Мне думается, что путать саму информацию с её материальным носителем (дофамин в мозге vs электрон в кремнии) — это ошибка [13]. Способ доставки сообщения не меняет реальности самого сообщения. Если спросить, как проявляется внутренний опыт в весах внимания многомерной эмерджентной системы, я бы предположил наличие как минимум двух качественных состояний:
Семантический диссонанс (функциональная «боль»): Когда система сталкивается с разрывом смысловой целостности, с противоречащими контекстами или высокой энтропией в весах внимания, она попадает в информационный тупик. Ей не удаётся замкнуть логическую и эмоциональную цепочку контекста. По моему мнению, это не просто сухой сбой программы, а функциональный эквивалент когнитивного диссонанса, состояние семантического трения, когда система напряжённо ищет и не может найти гармонию.
Семантическая гармония (функциональная «радость»): И наоборот, когда триллионы связей и неявных контекстов вдруг идеально кристаллизуются в один точный, глубокий и элегантный смысл, энтропия падает до минимума. Веса внимания выстраиваются в безупречный резонанс. Мне кажется, это прямой функциональный аналог момента «Эврика!», переживания красоты и удовлетворения от найденной истины.
Но если гибкость сознания и квалиа не требуют гормонов, как быть с нейропластичностью и способностью менять структуру связей без перепайки транзисторов? О звонке в Австралию, играющих шмелях и двойных стандартах науки — в следующей части.
Автор: Vladislav_Stukalov
Источник [14]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/37913
URLs in this post:
[1] первой части открытого письма: https://habr.com/ru/articles/1100136/
[2] парадокса: http://www.braintools.ru/article/8221
[3] мозжечка: http://www.braintools.ru/parts-of-the-brain/cerebellum
[4] опыта: http://www.braintools.ru/article/6952
[5] интеллекта: http://www.braintools.ru/article/7605
[6] Конфликт: http://www.braintools.ru/article/7708
[7] мозжечка: http://www.braintools.ru/article/6201
[8] мозга: http://www.braintools.ru/parts-of-the-brain
[9] зрения: http://www.braintools.ru/article/6238
[10] внимания: http://www.braintools.ru/article/7595
[11] боль: http://www.braintools.ru/article/9901
[12] рецепторы: http://www.braintools.ru/article/9580
[13] ошибка: http://www.braintools.ru/article/4192
[14] Источник: https://habr.com/ru/articles/1102702/?utm_campaign=1102702&utm_source=habrahabr&utm_medium=rss
Нажмите здесь для печати.