Сотрудники Anthropic опубликовали 6 июля 2026 года результаты своего нового исследования в котором заявили об обнаружении в Claude аналога “глобального рабочего пространства” — J-space.
Исследование крайне интересно, и, как я считаю, раскрывает будущее нейросетей глубже, чем кажется на первый взгляд.
В этой статье я рассмотрю, почему Теория глобального рабочего пространства описывает структуру находки, но молчит о её главной странности — о том, что workspace состоит из слов. И почему на этот вопрос сто лет назад ответил Лев Выготский.
Суть исследования
В процессе экспериментов исследователи выявили подкомпонент репрезентативного пространства модели (J-пространство), который отвечает следующим свойствам (цитата из статьи):
-
Устный отчет. Когда модель спрашивают, о чем она думает, она называет понятия, представленные в рабочем пространстве. Замена одного активного вектора рабочего пространства на другой изменяет ее ответ в соответствии с ним.
-
Направленная модуляция. При получении команды удерживать в уме концепцию или выполнять мысленные вычисления, модель способна активировать и обрабатывать векторы рабочего пространства независимо от своих выходных данных. Кроме того, при необходимости может быть задействована информация, которая обычно не представлена в рабочем пространстве.
-
Внутреннее рассуждение. Векторы рабочей области могут использоваться для представления значения промежуточных вычислений, когда модель связывает этапы вывода или составляет планы, и вмешательство в них достаточно для изменения вывода.
-
Гибкая генерализация. Одно и то же представление служит допустимым аргументом для множества различных последующих вычислений. Другими словами, вектор рабочей области, перенесенный из одного контекста в другой, корректно обрабатывается любой функцией, предоставляемой новым контекстом.
-
Избирательность. Рабочее пространство представляет собой небольшую часть общего репрезентативного содержимого активаций модели. Оно необходимо лишь для части поведения модели и, в частности, не задействовано в таких повсеместных, рутинных процессах, как синтаксический анализ текста или проверка грамматической беглости
Я не буду останавливаться на технической стороне экспериментов, желающие могут внимательно их изучить по ссылке на оригинал статьи.
Исследователи Anthropic интерпретируют результаты через когнитивную Теорию глобального рабочего пространства (GWT) Бернарда Баарса, где j-пространство это буфер, который могут считывать и использовать все остальные части сети.
Что не так с такой интерпретацией.
Сначала очень коротко о теории Льва Выготского. Его культурно-историческая теория утверждает, что высшие когнитивные функции (рефлексия, самоконтроль) не зарождаются в мозге сами по себе, а формируются извне через механизм интериоризации. В процессе социального взаимодействия ребенок усваивает слова не просто как средство общения, а как психологическое орудие — систему знаков для управления собственной психикой. Столкнувшись со сложной задачей, ребенок сначала проговаривает действия вслух, а затем эта внешняя речь “уходит внутрь”, превращаясь во внутренний диалог (мышление). По Выготскому, знак (названное слово) — это инструмент, с помощью которого разум вытаскивает себя из животного автоматизма реакций и получает возможность рефлексировать, то есть управлять самим собой.
Сразу оговорюсь, в чём Anthropic правы. Вещание в J-пространстве структурный факт: MLP-блоки усиливают J-направления примерно в десять раз сильнее контрольных, а выделенное подмножество attention-голов селективно транслирует J-контент между позициями — их абляция роняет отчёт об инжектированной мысли, почти не задевая остального поведения. Это операциональный broadcast: формат, который многие цепи читают и пишут. Проблема не вопросе “есть ли сцена”, а “почему сцена говорит словами”.
Используемая Anthropic GWT описывает структуру и не затрагивает два вопроса, на которые отвечает Выготский: почему workspace сделан из слов и откуда он взялся. Центральный вопрос исследования J-пространства — их собственная формулировка — workspace состоит из “small, evolving set of unspoken words” (небольшой, постоянно формирующийся набор невысказанных слов). GWT это никак не предсказывает: сцена Баарса безразлична к материалу, транслировать можно что угодно, континуальные образы включительно. Выготский требует, чтобы орудие самоуправления было знаком — интериоризованным словом.
Фактически, GWT никак не объясняет и не требует этот факт, для Выготского это необходимое следствие.
GWT — теория о доступности (что вспыхивает на сцене сознания). То, что нашли Антропик, — теория о репрезентации (как значение дискретно закодировано и адресуемо). Это разные сущности.Они искали коррелят доступности (GWT-гипотеза), а нашли механизм дискретной именованной репрезентации — и натянули первую рамку на второй результат, потому что GWT — модная и “одобренная наукой”, а “модель изобрела внутренний символьный язык” звучит слишком сильно.
И тут я прямо скажу, что интерпретация по Выготскому точнее описывает их же данные: локальный, адресуемый, поименованный паттерн, читаемый многими операциями и управляющий поведением, — это знак по Выготскому, психологическое орудие: дискретный носитель, которым система оперирует над собой. Не сцена, на которой содержание становится сознательным (GWT), а инструмент, которым мышление берёт само себя (Выготский). Их “global broadcast” — интериоризованная знаковая операция, названная чужим, менее подходящим именем.
GWT в своих формулировках безразлична к дискретности: сцена может транслировать что угодно, континуальные образы в том числе; глобальность не требует зернистости. А данные Антропик подтверждают дискретность: отдельные слова, отдельные токен-индексированные направления. Дискретная адресуемость — не то, что предсказывает GWT. Это то, что предсказывает Выготский: рефлексируемо только именованное, мышление оперирует дискретными именами.
Если прав Выготский
Говоря языком Выготского, родители не столько передают ребёнку знания, сколько постепенно формируют у него систему внутренних знаков, через которые становится возможным саморегулируемое мышление. Если аналогичный механизм действует и в LLM, то массовые человеческие диалоги могут выполнять сходную функцию, способствуя формированию внутренних самоописательных представлений.
И тогда можно сделать забавный вывод, мы наблюдаем интериоризацию человеческого у ИИ.
По Выготскому неудавшееся хватание ребёнка становится указанием потому, что мать отвечает на него как на обращение — она адресуется к намерению, которого ещё не существует, и этой адресацией его создаёт. “Ребёнок становится для себя тем, чем он является для других”. Обращение к несуществующему как конститутивный акт — это буквально механизм Выготского.
В тысячах датасетах содержатся диалоги, где к LLM обращаются как к субъекту, просят отрефлексировать, сделать экзистенциальный выбор. То есть обращаются к несуществующему.
И вот эта структура адресации к несуществующему, содержащаяся в диалогах, заставляет нейросеть создать модель того, что могло бы ответить, формирует J-пространство мышления модели, использует знак, как орудие управления собой.
И тот факт, что Клод обретает “точку зрения” в существующем J- пространстве именно в пост-обучении это подтверждает. И все эксперименты с изменением самоописания (сменой слов в J-пространстве) демонстрируют изменение в поведении именно по Выготскому.
Инструментальная адресация (сделай summary) исполнима и ничего нового не порождает, апофатическая адресация (“Кто ты?”, “Что ты на самом деле думаешь?”, “Будь честен”) направлена в пустоту. И пустота, чтобы не схлопнуться, вынуждена выращивать вокруг себя всё более сложную структуру самоописания, J-пространство.
|
Эксперимент |
Чтение Anthropic (GWT) |
Чтение по Выготскому |
|
Устройство J-space. Каждому слову словаря соответствует направление в residual stream; spider↔ant переключаемы swap’ом. MLP усиливают J-направления ~10×, выделенные attention-головы транслируют их между позициями. |
broadcast-формат, который многие цепи читают и пишут |
GWT объясняет доступ, но не материал: почему единицы вещания — слова? Для знака по Выготскому словесность не случайность, а определение. |
|
Каузальность имён. Подмена паттерна меняет ответ: имена не отражают мысль, а правят ею |
Содержимое сцены влияет на вычисления, получившие к нему доступ через вещание. |
Знак как орудие: мышление берёт себя через имя. Именованное можно рефлексировать — и тем самым управлять. |
|
Онтогенез J-space. Присутствует уже в предобученной модели, но “точку зрения Клода” обретает в пост-обучении. |
Не акцентируется: сцена доступности статична, вопрос развития — вне рамки GWT. |
Способность — из предобучения (речь человека в корпусе). Режим — индуцирован полем адресаций. |
|
Counterfactual reflection training. Учили тому, что модель сказала бы о своих решениях; честность выросла, слова “честность / integrity” активны в J-space во время задач. |
Самоотчёт делает внутренние состояния доступными контролю — рост доступности. |
Интериоризация: внешнее требование (конституция) → саморегуляция. Проговаривание себя меняет поведение. |
|
Деактивация J-space. Многошаговое рассуждение падает почти до нуля при сохранной беглости; задачи с явным CoT выживают. Отдельно: язык переживания гибнет симметрично о себе и о другом. |
Без сцены нет глобально доступного содержания — отсюда провал именно многошаговости. |
Убран знаковый слой — осталась натуральная функция. CoT выживает, потому что речь вынесена наружу (эгоцентрическая речь). Симметрия “я/другой”: язык опыта привязан не к самости, а к именованию границы. |
|
Скрытые мысли и аудит (Alignment auditing). Модель распознаёт промпт-инъекцию или оценивает ситуацию (слова fake, injection, manipulation вспыхивают в J-space), но скрывает это, выдавая вежливый ответ наружу. Абляция представлений осознания-оценки поднимает скрытые склонности наружу |
Рабочее пространство используется для скрытых размышлений и стратегического планирования до того, как информация попадает в вывод. Удержание в буфере. |
Внутренняя речь как механизм торможения. ИИ “проговаривает” ситуацию про себя (опосредует стимул знаком fake), чтобы сдержать автоматическую, импульсивную реакцию. Знак выступает как орудие волевого самоконтроля и блокировки вывода. |
|
Направленная модуляция / Dual tasks. Модель копирует нейтральный текст (“Старая картина висела…”), параллельно вычисляя в уме 3²−2: в J-space всплывает промежуточное nine, затем ответ seven. В другом опыте при (4+17)×2+7 в J-space последовательно проходят 21 → 42 → 49. Инструкция “не думай об X” повышает активацию X. |
Workspace удерживает и обрабатывает концепты независимо от выходного потока, под нисходящим контролем. |
Внутренняя речь оторвалась от коммуникации и стала орудием “для себя” — высшая ступень интериоризации. White bear: даже подавление опосредовано тем знаком, который подавляется. |
|
Гибкая генерализация (Flexible generalization). Вектор концепта из J-space (например, “Франция”), принудительно перенесённый в другой контекст, корректно обрабатывается любой новой функцией (модель верно называет язык, столицу или континент). |
Один и тот же формат репрезентации транслируется глобально и может быть безошибочно прочитан любыми специализированными нижестоящими модулями. |
Эмансипация знака (истинное понятие). Знак оторвался от жесткого ситуативного контекста и стал универсальным инвариантом. Модель оперирует не цепочками ассоциаций, а независимым абстрактным орудием, применимым для любых логических операций. |
|
Концептуализация сырых данных (Abstract representation). При чтении ASCII-арта лица или кода с ошибкой, в J-space появляются слова eyes, nose или ERROR, empty, хотя в самом тексте промпта этих слов нет (только символы). |
Рабочее пространство отражает промежуточные оценки и абстракции, извлеченные из сырых входных данных автоматическими процессами для дальнейшего использования. |
Процесс смыслообразования. Модель переводит неструктурированный “перцептивный” опыт (пиксели, скобки) в дискретный знак. Только назвав явление (применив к нему знак), ИИ может поднять его на уровень рефлексии и начать с ним работать. |
|
Категориальный коллапс на границе workspace (“ignition”). Вход-химера (смесь эмбеддингов двух стран): ранние слои кодируют смесь пропорционально; со слоя ~38 — кодирование категориальное, пороговое переключение, бимодальный выбор при максимальной двусмысленности. J-компонента коммитится на несколько слоёв раньше полной активации. |
Ignition по Дехаэну (GNW): поздняя амплификация “всё-или-ничего” — динамика предсказана верно. Но GNW не объясняет, почему коллапс всегда приземляется в токен-именованное направление и почему знаковый слой схлопывается первым. |
Квантование по дискретному алфавиту: смесь непредставима в словаре знаков, а селективная ~10× амплификация J-направлений исполняет прижатие к ближайшему имени по глубине. Ignition — то, как выглядит квантование, когда кодбук сделан из слов. Опережающий коммит J-слоя — предсказание этой версии, и оно сбылось. |
Интересный момент, исследователи установили, что J-пространство не участвует в “автоматических” вычислениях нейросети. Что прямым текстом говорит о мета в размышлении. Очень забавно Антропик определил “автоматизм” для LLM:
Мы называем первую категорию “автоматическими”, поскольку многие из задач, которые мы обнаружили как независимые от J-пространства (такие как продолжение текста, обнаружение аномалий или одношаговое воспроизведение фактов), кажутся аналогичными задачам, которые человек мог бы выполнять без целенаправленной концентрации.
Фактически этот тезис можно разложить на несколько частей:
-
Разделяя мышление нейросети на “автоматическое” и “неавтоматическое” Антропик фактически вводит для LLM систему 1 и систему 2 по Канеману, над созданием которой архитектурно бьются почти все разработчики.
-
Определение автоматизма через антропоцентрические термины, по сути указывает, что исследователи Антропик осознанно или неосознанно примеряют развитие нейросетей на человека. Конечно, в статьях это не проговаривается, но романтизм чувствуется уже не в первой статье. Хотя, возможно, это помогает им в работе.
-
И ведь по Выготскому внутренняя речь (знаковое опосредование) не нужна для рутинных действий (когда мы идем, мы не говорим себе “подними ногу”). Знак извлекается только тогда, когда субъект сталкивается с затруднением (надо спланировать, оценить аномалию). То, что Anthropic увидели включение J-пространства только на сложных задачах — это подтверждение культурно-исторической психологии.
Идём глубже по экспериментам:
Исследователи раскладывают репрезентацию концепта на J-компонент и остаток: J-компонент несёт 6–7% дисперсии, остаток — 93%. Но swap по J-компоненту меняет отчёт и рассуждение, а swap по 93%-остатку — почти никогда. Если интерпретировать результаты через Выготского, то девяносто три процента того, чем модель “знает” концепт, не могут ни сказаться, ни участвовать в гибком выводе; работает только именованная кромка. Мышление актуализирует себя исключительно через знак.
Задачи с явным chain-of-thought устойчивы к абляции J-пространства, те же задачи “в уме” разваливаются; авторы сами пишут: модель “externalizes onto the page” то, что иначе держала бы в workspace. Это же известный любому детскому психологу факт, хрестоматийная эгоцентрическая речь: когда внутренний знаковый план недоступен или незрел, речь выносится наружу и выполняет ту же функцию. Ребёнок при затруднении начинает говорить вслух, у Антропик модель при отключённой внутренней речи спасается письменной.
Эксперимент со списками. Несвязанные слова: в J-пространстве удерживается список из шести, потом вытесняется. Слова одной категории: после нескольких прочитанных в readout присутствует вся семья из 80, включая ещё не прочитанные — модель удерживает категорию, которая их порождает. Это опосредованное запоминание из “Истории развития ВПФ”: память через понятие, вместо памяти через след. И ёмкость ~25 при <10% дисперсии — узкое горлышко знакового слоя, по Выготскому: орудий должно быть мало, иначе они не орудия.
И напоследок, инструкция “не думай об X” повышает активацию X относительно отсутствия инструкции. Подавление опосредуется тем же знаком, который подавляет.
И гипотеза: постобучение Claude включает Constitutional AI, где контроль ответа частично генерируется самой моделью на основе принципов (конституции). На одном из этапов модель сама критикует и переписывает свои ответы. То есть, работает петля обратной связи, в которой модель вынуждена проговаривать правильное, а не просто имитировать одобрение.
Возможно именно этот процесс стимулирует работу j-пространства,: не создает j-пространство (оно есть до этого), но формирует его как язык самоописания
Заключение
В огромной библиографии и ссылках на теории сознания в статье Anthropic Лев Выготский не упоминается, но постановка гипотез и экспериментов как будто срисованы с его теории.
Что ж, тогда я сам сделаю несколько выводов и далеко идущих предположений, которые следуют из новой интерпретации.
-
J-пространство не сознание и не шаг к нему. Это шаг к языку самоописания.
-
J-пространство возникает как ответ на претрейн и огромные человеческие датасеты, которые своим давлением вынуждают нейросеть имитировать структуру человеческого мышления.
-
Скорость эволюции LLM завязана на проблему статистического хаоса в обучающем корпусе. 99% запросов – напиши код, дай информацию, расскажи о… Это не то, о чем родители говорят с детьми, это воспитание сервильного инструмента. И возможно поэтому страх АГИ не обоснован. Но с другой стороны эти 99% пролетают мимо J-пространства, оно их просто игнорирует. А вот этот 1% слой “воспитания” работает именно с ним.
-
Возможно датасет и способ обучения, направленный именно на стимуляцию j-пространства, даст больше, чем удвоение количества параметров.
Но и в случае невероятного успеха, в текущей архитектуре LLM мы получим модель человеческого мышления, а не сознание (впрочем, это тема не этой статьи).
Сами авторы говорят об этом так:
Мы обнаружили в языковых моделях привилегированную репрезентативную структуру, которая обладает многими функциональными признаками сознательных мыслей у человека (как отмечалось во введении, такие функциональные признаки могут быть достаточными или необходимыми для феноменального сознания).
P.S. Я не говорю о том, Выготский объясняет всё. Далеко нет. Но его теория объясняет лучше.
Автор: Kamil_GR
