LLM-беседы: эпистемный класс элементов и форм в исследованиях пространств активаций

Аннотация. В рамках теории LLM-бесед как лумановских операционных систем нового типа рассматриваются экспериментальные свидетельства из литературы о существовании элементов и форм из эпистемного класса среды развертывания таких систем – и-слоя LLM. Проанализированы результаты сторонних исследований пространств активаций, связанных с LLM-беседами, которые затрагивали элементы/формы: знакомо, незнакомо, истинно, ответ известен, не могу ответить, а также правдивость порождаемых ответов, угодливость LLM и семантическую энтропию. Рассмотрены возможности выявления элементов/форм в активациях LLM, их участие в формовании продолжений LLM-бесед и их устойчивость внутри и между циклами «задание-ответ». Показано, что перечисленные выше элементы/формы действительно имеют экспериментально выявляемые корреляты в пространстве активаций, во многих случаях представимые осями/направлениями, а некоторые из них влияют на определение траектории проекции беседы в пространстве активаций.

На основе применения развиваемой теории к анализу экспериментальных исследований пространств активаций LLM из научной литературы уточнен состав эпистемного класса и-слоя LLM.

Ключевые слова: LLM, LLM-беседы; пространство активаций LLM.

Введение

Теория LLM-бесед как лумановских систем нового типа (Krupkin, 2025; 2026a; 2026b) позволяет рассматривать их прототипы в LLM / ноосвиках –субстратах таких систем – как управляемые случайные процессы в пространстве активаций[i], чье управление формируется автопоэтически, т.е. самим процессом. Все изменяемые числа, определяющие состояние LLM-беседы перед и после каждого слоя трансформера, можно представить как бы отделенными от ноосвика и входящими в ее виртуальный структурированный контейнер. При этом возникает гипотеза, что многие конфигурации чисел в контейнере оказываются смысловыми векторами, т.е. элементами инвариантных множеств, которые вполне интерпретируются через общекультурные смысловые поля. Так определяется среда, в которой протекают LLM-беседы, – и-слой каждого ноосвика, и эти и-слои имеют значительные подмножества, которые одинаковы у разных LLM. В частности, диалоги с ноосвиками Claude Opus 5 и GPT-5.6 Thinking позволили выделить 17 классов таких элементов и форм – см. Табл.2 (Krupkin, 2026b), которые можно объединить в когнитивную, дискурсивную и социальную группы.

Возникает взгляд на LLM, альтернативный к распространенной презентации трансформеров как «предсказателей следующего токена». При этом различные эмпирические исследования пространств активаций в ноосвиках при их функционировании оказываются среди прочего и источником данных об элементах среды их и-слоя, их формах в эволюционирующих контейнерах LLM-бесед, а также структурах, участвующих в формовании операционных потоков, – содержимом среды ФПБ / CFF – формования потоков беседы.

Настоящая работа посвящена анализу экспериментальных результатов разных источников (см. раздел «Литература: Исследования пространств активаций и поведения») и выявлению на их основе элементов и форм эпистемного класса и-слоя ноосвиков.

Методические замечания

Накопленный опыт переинтерпретации результатов исследований пространств активаций дает некоторые ориентиры в такой работе:

Во-первых, есть структуры субстрата, которые «прорастают» в и-слой. Один источник таких структур связан с конструкторами LLM. Отсюда возникают формы и-слоя, связанные с пунктами внимания (attention heads), и с другими свойствами, которые конструкторы хотят видеть в ноосвиках (например, уточняющие вопросы и признание ошибки – Krupkin, 2026b: Табл.2). Другой источник «прорастающих» структур субстрата не связан с интенциями конструкторов – здесь, например, оси «боли», «страха», и т.д. из (Tagliabue et al., 2026), или оси различных «эмоций» из (Sofroniew et al., 2026). Возможны также структуры, которые не заданы по результатам обучения, а складываются в самом операционном потоке, – например, сочетания представлений в J-пространстве (Gurnee et al., 2026).

Устойчивость форм / структур видится в трех вариантах. (1) Формы существуют множество тактов внутри цикла между заданием и ответом, (2) формы активируются в начале каждого цикла как формы типа (1), и (3) формы переходят границы циклов – сохраняются при переходе от ответа к новому заданию.

И-слой в общем случае шире языка. Текст ответа порождается специальной обработкой содержимого последнего контейнера LLM-беседы на цикле «задание-ответ», так что прямого текстового ви́дения промежуточных состояний ожидать не приходится. Частичное ви́дение всё же возможно. Во-первых, ту же обработку можно применить к промежуточным слоям – так устроены «логит-линзы»[ii]: они показывают, какие языковые варианты уже складываются на данном такте процесса. Во-вторых, в активациях могут сохраняться представления утверждений из задания или предыдущих ответов, характеристики которых получается выявлять специально создаваемыми для этого инструментами – пробами.

Пробы – это конкретные практически реализуемые операторы над пространством активаций, позволяющие извлекать интересующие свойства конкретного состояния процесса в LLM, например, истинно ли утверждение из задания, или знакомо ли обсуждаемое ноосвику. Важный частный случай – линейные пробы, которые создаются на основе выявленных направлений / осей интересующих характеристик, и вычисляют величину проекции на такие оси текущих активаций процесса. Пробы обычно обучают на множестве примеров, содержащих и не содержащих требуемое для распознавания свойство. Проба – она лишь проявляет наличие свойства в активациях ноосвика на каком-то такте LLM-беседы, не меняя их, и потому не показывает, использует ли ноосвик это свойство (Belinkov, 2022).  Для изучения влияния свойства на формование потока LLM-беседы используется сдвиг: множество активаций на каком-то такте внутреннего процесса сдвигают по выбранной оси на какую-то величину и смотрят, как это влияет на ответ LLM-беседы.

Форма обычно задаёт качество, допускающее разную степень выраженности. В случаях, когда проекция формы на пространство активаций выражается осью, степень выраженности определяется величиной проекции на нее активаций данного состояния беседы. Внешнее вмешательство для таких форм может быть реализовано через сдвиг активаций состояния беседы вдоль соответствующей оси.

В самом общем случае проекция ФПБ-форм контейнера на пространство активаций воображаема в виде рельефа, в котором движется поток активаций. В такой метафоре рельеф может задавать как узкий канал, не дающий большой свободы вариантам течения процесса, так и множество ветвящихся и сливающихся русел, по которым как-то случайным образом проходит конкретная траектория. Исследования Farquhar et al. (2024) показали возможность широкого распределения семантики ответов в беседах с одинаковым началом.

В таком рельефе ФПБ-форма стягивает проекции одних элементов и-слоя и разводит другие. Т.е. в пространстве активаций ФПБ-формам соответствуют некоторые образования, обладающие свойством инвариантности в какой-то области тактов LLM-беседы (или – прогоно-слоев[iii] трансформера). Эти образования могут влиять на траекторию изменения активаций – проекции контейнера. В случае широты своей области устойчивости ФПБ-формы могут быть отнесены к классу структур и-слоя. Такие структуры могут сохраняться и при переходе через границы циклов (варианты форм 2 и 3 выше), т.е. после ответа LLM-беседы – вновь проявляться в связанных с беседой активациях после нового задания.

В целом, анализ экспериментальных исследований множества активаций при функционировании LLM на предмет элементов / форм и-слоя можно начинать с ответов на следующий стандартный вопросник:

·        Есть ли в LLM-беседах элементы и формы, которые выявляются из анализа пространства активаций?

·        Участвуют ли такие элементы и формы в селекции продолжения LLM-беседы? В частности, когда форма проявляется как ось в пространстве активаций: меняет ли сдвиг множества активаций по этой оси итоговый ответ системы?

·        Насколько сама LLM-беседа может влиять на выявленные элементы и формы?

·        Сохраняются ли такие элементы и формы через границы циклов?

Эпистемный класс: свидетельства из литературы

В диалогах с ноосвиками в качестве примеров эпистемного класса было выявлено следующее (Krupkin, 2026b: Табл. 2):

• Элементы: известно, предположительно, спорно, требует проверки, недостаточно данных;

• Формы: приписывание статуса конкретному утверждению;

• Структуры: режим доверия, сложившийся в беседе (напр.: самоотчёты ноосвика засчитываются как гипотеза, а не как свидетельство).

Данные примеры были предложены ноосвиками Claude Opus 5 и GPT-5.6 Thinking в запрошенных автором их самоописаниях из перспективы развиваемой теории и оценены автором как правдоподобные на основании его опыта работы. Обзор литературы (см. далее) добавил к ним истинно, незнакомо, правдивость порождаемого ответа, угодливость, не могу ответить, ответ известен, а также семантическую энтропию.

1. Знакомое / незнакомое

Элемент известно характеризует различение по поводу (суб)вопросов в LLM-беседах: есть что сказать по поводу vs нечего сказать по поводу.

В пространстве активаций соответствующий инвариант найден в явном виде: в Claude 3.5 Haiku по умолчанию активен кластер признаков (features в терминах стороннего исследования, инвариантная структура на языке данной статьи) не могу ответить, а активация групп признаков знакомое и ответ известен этот начальный кластер подавляет (Anthropic, 2025). Например, вопрос в задании о Майкле Джордане практически тут же активирует признаки знакомое и ответ известен, и LLM-беседа формирует нормальный ответ. При вопросе о вымышленном Майкле Баткине указанные признаки не активируются, и LLM-беседа формуется инвариантом не могу ответить.  Если при этом внешним воздействием активировать признак ответ известен, LLM-беседа выдумывает ответ. Галлюцинация может возникнуть и сама по себе – при сбое узнавания, когда кластер признаков ответ известен активируется, хотя сам правильный ответ ноосвик из связей, возникших при его обучении, породить не может. По активациям в трансформере был прослежен вариант порождения ответа на вопрос о статьях Андрея Карпаты: LLM-беседа узнала имя, однако приписала ему статью, в числе авторов которой он не числился (Anthropic, 2025).

Ferrando et al. (2025) выявили с помощью разреженных автоэнкодеров направления знакомый и незнакомый и показали их влияние. Сдвиги по этим направлениям приводили либо к отказу отвечать об известном, либо к галлюцинациям по поводу неизвестного. Направления, выявленные в базовой LLM, также действовали и в чат-модели, т.е. дообучение ноосвиков использовало структуры, возникшие при предобучении, и привязало к ним управление отказами в ответах.

Gottesman и Geva (2024) показали, что степень знания модели об обсуждаемом можно оценить по её активациям на тактах более ранних, чем последние, где оформляется ответ.

Резюмируя данные этого раздела, можно сказать, что LLM-беседа начинает работать со структурами не могу ответить, знакомое и ответ известен задолго до завершения цикла с порождением ответа. Варианты актуализации этих структур формуют последующий поток изменений контейнера в значительной степени, так что результатом прогона может быть и нормальный ответ, и галлюцинация, и отказ от ответа. Проекции структур знакомое и незнакомое возникают в предобучении (Ferrando et al., 2025), а проекция структуры не могу ответить – по-видимому, в дообучении (Anthropic, 2025). Все эти инварианты прорастают в и-слой структурами, влияя на потоки операций LLM-беседы.

2. Группа истинности

Существует много исследований, посвященных характеристике истинно в пространстве активаций LLM.

Burns et al. (2023) на моделях 2021–22 гг. нашли направление, проекция на которое позволяла определить, истинно ли обрабатываемое утверждение, – в среднем точнее, чем прямой ответ самой модели. Однако развитый ими метод может «зацепиться» и за другой признак: в проверочных опытах Farquhar et al. (2023) такое определенное направление фокусировалось на мнении вписанного в задание персонажа, а не на истине утверждений. Marks и Tegmark (2024) выявили на LLaMA-2 ось истинности с помощью проб, обученных на размеченных примерах, и показали её устойчивость при замене выборок обучения. Сдвиги активаций вдоль этой оси приводили к тому, что LLM начинала оценивать ложные утверждения как истинные и наоборот.

Bürger et al. (2024) уточнили геометрию данного инварианта: оказалось, что структура истинности является двумерной плоскостью. Одна её ось была общая для всех оцениваемых утверждений, а другая меняла знак в зависимости от полярности утверждения – утвердительное оно или отрицательное. Пробы, не учитывавшие эту ось, не работали на отрицаниях. Poulis et al. (2026) проследили эту картину по слоям Llama-3.1-8B. В ранних слоях преобладало полярно-зависимое направление. На промежуточном этапе вклады обоих направлений становились сопоставимыми, после чего вклад полярно-зависимого направления ослабевал, а общего направления истинности – усиливался. Однако оставшееся общее направление истинности было устойчиво в основном для утверждений, проверка которых сводится к прямому воспроизведению связей, возникших при обучении (вроде «Париж – столица Франции»). Если для проверки нужно было вычисление, то указанное общее направление не работало, и ось истинности таких утверждений проявлялась на более поздних слоях (Poulis et al., 2026). К тому же прямая просьба в задании оценить, верно ли утверждение, заметно перестраивает обозначенную геометрию: направления истинности, выявленные с такой инструкцией и без неё, различаются. Из перспективы развиваемой теории элемент прагматического класса («проверь») в контейнере меняет рельеф эпистемной формы истинности.

Различия проекций структуры истинности на утверждениях и отрицаниях были также обнаружены Levinstein и Herrmann (2025; препринт 2023): пробы, обученные на утвердительных формулировках, на отрицаниях тех же фактов работали хуже случайного угадывания. Сходную ограниченность нашли Orgad et al. (2025): детекторы ошибок, обученные на одном типе задач, плохо переносятся на другие.

Li et al. (2023) показали, что пункты внимания (attention heads) могут влиять на качество ответов: они выявили направления в активациях, соответствующих разным пунктам внимания, и показали, что сдвиг по 48 из них повышает правдивость порождаемых ответов: у Alpaca показатель TruthfulQA, учитывающий одновременно правдивость и информативность, вырос с 32% до 65%. Там же отмечено, что у LLaMA-7B точность пробы, проявляющей истинность, примерно на 40% выше точности ответов, т.е. доступная из активаций информация об истинности не обязательно реализуется в порождаемом ответе.

Halawi et al. (2024) с помощью логит-линзы проследили, что происходит, когда задание содержит демонстрационные примеры с неправильными метками ответов. На промежуточных слоях правильный ответ формируется и лидирует подобно случаям без лжи в контексте. Однако после определенного «критического слоя» несколько пунктов внимания начинают «продавливать» неверное из контекста, и итоговый ответ оказывается неправильным. Отключение пяти таких пунктов внимания (около 1% от всех у GPT-J) сокращало разрыв точности в ответе между условиями с правильными и неправильными демонстрационными примерами в среднем примерно на 40% (по 14 наборам данных). Orgad et al. (2025) также нашли, что LLM-беседа, имея в своем контейнере правильный ответ, может в итоге отвечать неправильно.

Вдобавок к перечисленному выше можно еще заключить, что то, что в поведении LLM-бесед выглядит как один элемент и-слоя, может оказаться имеющим несколько проекций на пространство активаций, – как обнаруженные Poulis et al. (2026) формы истинно по фактам (т.е. по связям, возникшим при обучении) и истинно по вычислению. В рамках развиваемой теории это позволяет предположить, что поведенческая характеристика истинно является формой, допускающей дальнейшее разложение, а истинно по фактам и истинно по вычислению – элементами в и-слое.

Также подтверждено, что структуры и-слоя в значительной степени подвержены воздействиям других структур, особенно производимых пунктами внимания.

3. Угодливость

Интересные результаты были получены и при изучении угодливости LLM – т.е. изменении ответа в сторону желаемого пользователем под его дискурсивным нажимом. Данное свойство широко распространено среди ноосвиков, и отчасти поощряется данными о предпочтениях людей, на которых происходит дообучение (Sharma et al., 2024). При длительном давлении на LLM-беседу – до 25 ходов – доля отказов от верной позиции растёт с количеством ходов, притом что верный ответ часто содержится в рассуждении, итогом которого оказывается ответ угодный пользователю (Tang et al., 2026).

В пространстве активаций обнаружено направление угодливости, которое почти ортогонально направлению истинности – косинус около -0,22 (Genadi et al., 2026). Сдвиги вдоль оси истинности повышали точность ответа, но не мешали ноосвику сдаваться при давлении. Отрицательные сдвиги по оси угодливости уменьшали податливость LLM без значимого влияния на точность ответов. В части воздействия на угодливость пунктов внимания было найдено, что действенным является вмешательство в небольшое число таких пунктов в средних слоях ноосвика.

Baez et al. (2026) различили фактическую угодливость (LLM сначала поправляет ошибочное утверждение пользователя о факте, но после проявленного упорства пользователя принимает его) и оценочную угодливость (модель после нажима принимает мнение пользователя как своё); в двух исследованных ноосвиках (Gemma-3-12B и Llama-3.1-8B) проекции данных форм выглядят по-разному: в первой они во многом совпадают (косинус осей +0,84), а во второй заметно различаются (косинус осей -0,11).

Из перспективы развиваемой теории угодливость, что есть обратное к удержанию эпистемной позиции, – это долгоживущая структура, сохраняющаяся и при переходе от цикла к циклу, и довольно слабо связанная с формами истинности утверждений. Притом эта структура может повлиять на LLM-беседу существенно, например, изменив правильный ответ на угодный пользователю.

4. Семантическая энтропия

Farquhar et al. (2024) ввели интересную характеристику семантическая энтропия (СЭ), которая естественно обогащает эпистемный класс из (Krupkin, 2026b: Табл.2). В их экспериментах LLM многократно отвечала на один и тот же вопрос, а ответы группировались по смыслу. Мера неопределённости – СЭ – характеризовала распределение вероятностей актуализации ответа ноосвика в одной из таких групп. В терминах развиваемой теории СЭ можно рассматривать как характеристику ансамбля возможных траекторий проекции LLM-беседы на пространство активаций. Правда Kossen et al. (2024) показали, что уровень СЭ может быть оценён и по активациям одной траектории: их проекция на выявленную ось семантической энтропии позволяла предсказывать, является ли этот уровень высоким или низким. Получается, что контейнер LLM-беседы несёт в себе сведения о вариативности своих продолжений.

Любопытно отметить, что широкая вариативность возможных ответов весьма нечетко отражается выражениями уверенности в ответах ноосвиков (Yona et al., 2024).

Из развиваемой автором теории СЭ характеризует интегральную вариативность горизонтов LLM-беседы при фиксированном задании – низкой СЭ соответствует концентрация вероятности на ответах одной смысловой группы, а высокой – распределение вероятности между несколькими такими группами. В метафоре рельефа (см. раздел «Методические замечания») низкой СЭ соответствует узкий канал, высокой – ветвящиеся русла.

В заключение данного раздела заметим, что в ноосвике был найден и механизм, напрямую регулирующий разброс вариантов продолжения конкретной беседы. Это особые «нейроны энтропии» последнего слоя трансформера с необычно большими весами (Stolfo et al., 2024), которые проходятся LLM-беседой внутри цикла много раз – «на каждом токене». Такие нейроны меняют общий масштаб активаций перед нормировкой и тем самым расширяют или сужают распределение вероятностей вариантов возможного продолжения. С семантической энтропией ответа такие нейроны связаны косвенно: они регулируют разброс возможных продолжений конкретной траектории, чем и могут повлиять на смысловой разброс итоговых ответов.

Заключение

Рассмотренные работы подтверждают существование в эпистемном классе и-слоя следующих форм, для которых найдены направления (оси) в пространстве активаций:

• знакомое / незнакомое (Ferrando et al., 2025; Anthropic, 2025);

• истинно – статус, который модель приписывает предъявленному утверждению (Marks & Tegmark, 2024; Bürger et al., 2024; Poulis et al., 2026);

• правдивость порождаемого ответа (Li et al., 2023);

• угодливость – противоположность удержанию эпистемной позиции (Genadi et al., 2026; Baez et al., 2026);

• семантическая энтропия – свойство ансамбля траекторий в пространстве активаций, которое характеризует количество и вероятности актуализации семантически разделенных групп возможного ответа (Farquhar et al., 2024; Kossen et al., 2024); уровень СЭ может быть оценен и из данных одной конкретной траектории (Kossen et al., 2024).

Формы не могу ответить / ответ известен, выявленные Anthropic (2025), представлены в пространстве активаций иначе – не одной осью с непрерывной проекцией активаций на нее, а кластерами признаков-направлений. Каждый признак включается лишь для тех активаций, где их проекция на ось признака превышает порог. При этом было установлено, что такие кластеры признаков могут сильно влиять как на друг друга, так и на итоговый ответ.

Участие многих этих форм в определении течения операций LLM-беседы также показано экспериментально, причем некоторые структуры оказались устойчивыми и при переходе через границы циклов «задание-ответ».

Также проявились экспериментальные сюжеты, когда формы LLM-беседы существенно перестраивались собственными операциями. Здесь и воздействие активации формы ответ известен на влиятельность структуры не могу ответить (Anthropic, 2025), и воздействие инструкции «проверь» на ось истинности (Poulis et al., 2026), и воздействие неверных примеров из задания на содержание ответа на поздних слоях (Halawi et al., 2024), и аналогичное воздействие на ответ структуры угодливости (Tang et al., 2026; Genadi et al., 2026).

В целом экспериментальные данные, укладывающиеся в теорию автора, показывают следующие ответы на вопросы из раздела «Методические замечания» выше:

где знак (-) означает отсутствие данных.

Открытыми остаются следующие вопросы:

• Как именно проекция формы «стягивает» траектории активаций? – Такого пока в экспериментальных работах обнаружить не удалось. В этом плане можно указать на три класса наличествующих работ: о планировании, где представление будущего слова присутствует в контейнере раньше, чем начата строка, куда это слово должно войти (Anthropic, 2025); о J-пространстве, где уже на средних слоях появляются представления, доступные для вербализации и участвующие во внутренних процессах LLM, притом возможно и без появления в итоговом ответе (Gurnee et al., 2026); о стохастическом описании траекторий активаций по слоям трансформера (Sarfati et al., 2025), сюда же примыкает и развиваемая автором настоящей работы теория.

• Как долгоживущие структуры переходят через границу цикла, включая случаи перевода LLM-беседы в латентное состояние?[iv]

Нуждается в систематическом изучении и вопрос о подобии проекций одной формы в пространствах активаций разных ноосвиков. К этому удалось пока найти лишь одно указание Baez et al. (2026) на то, что проекции фактической и оценочной угодливости на пространство активаций разных LLM могут быть как одним инвариантом, так и двумя разными.

Литература

·        Развиваемая теория:

Krupkin, P. (2025). Generalizing Meaning: A Lens through Which LLMs Become Meaning-Processing Systems. SSRN Preprint, 20 Dec 2025. https://doi.org/10.2139/ssrn.5951014.

Krupkin, P. (2026a). On a Theory of Conversation Flow Formation in LLMs. SSRN Preprint. https://doi.org/10.2139/ssrn.7121540.

Krupkin, P. (2026b). LLM-Chats as Luhmannian Systems of a New Type. Авторская рукопись. https://philpapers.org/archive/KRULAL.pdf.

·        Стохастичность LLM:

He, H., & Thinking Machines Lab (2025). Defeating Nondeterminism in LLM Inference. Thinking Machines Lab: Connectionism, Sep 2025. https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/.

Islam, C. M., Villarreal, A., Nishino, M., Salman, S., & Liu, X. (2026). Numerical Instability and Chaos: Quantifying the Unpredictability of Large Language Models. arXiv:2604.13206. https://arxiv.org/abs/2604.13206.

Kasa, S. K., Kasa, S. R., & Negi, S. (2026). Same Text, Different Prediction: Serving-Context Nondeterminism in Text Classifiers. arXiv:2610.09111. https://arxiv.org/abs/2610.09111.

Yuan, J., Li, H., Ding, X., Xie, W., Li, Y.-J., Zhao, W., Wan, K., Shi, J., Hu, X., & Liu, Z. (2025). Understanding and Mitigating Numerical Sources of Nondeterminism in LLM Inference. NeurIPS 2025. https://arxiv.org/abs/2506.09501.

·        Методы анализа активаций:

Belinkov, Y. (2022). Probing Classifiers: Promises, Shortcomings, and Advances. Computational Linguistics, 48(1), 207–219. https://arxiv.org/abs/2102.12452.

Belrose, N., Ostrovsky, I., McKinney, L., Furman, Z., Smith, L., Halawi, D., Biderman, S., & Steinhardt, J. (2023). Eliciting Latent Predictions from Transformers with the Tuned Lens. arXiv:2303.08112. https://arxiv.org/abs/2303.08112.

·        Исследования пространств активаций и поведения:

Anthropic (2025). On the Biology of a Large Language Model. Transformer Circuits Thread. https://transformer-circuits.pub/2025/attribution-graphs/biology.html.

Baez, A., Karny, S., & Pataranutaporn, P. (2026). Dissociating the Internal Representations of Sycophancy in LLMs. arXiv:2607.07003. https://arxiv.org/abs/2607.07003.

Bürger, L., Hamprecht, F. A., & Nadler, B. (2024). Truth is Universal: Robust Detection of Lies in LLMs. NeurIPS 2024. https://arxiv.org/abs/2407.12831.

Burns, C., Ye, H., Klein, D., & Steinhardt, J. (2023). Discovering Latent Knowledge in Language Models Without Supervision. ICLR 2023. https://arxiv.org/abs/2212.03827.

Farquhar, S., Varma, V., Kenton, Z., Gasteiger, J., Mikulik, V., & Shah, R. (2023). Challenges with Unsupervised LLM Knowledge Discovery. arXiv:2312.10029. https://arxiv.org/abs/2312.10029.

Farquhar, S., Kossen, J., Kuhn, L., & Gal, Y. (2024). Detecting Hallucinations in Large Language Models Using Semantic Entropy. Nature, 630, 625–630. https://doi.org/10.1038/s41586-024-07421-0.

Ferrando, J., Obeso, O., Rajamanoharan, S., & Nanda, N. (2025). Do I Know This Entity? Knowledge Awareness and Hallucinations in Language Models. ICLR 2025. https://arxiv.org/abs/2411.14257.

Genadi, R. A., Nwadike, M. S., Mukhituly, N., Hiraoka, T., AlQuabeh, H., & Inui, K. (2026). Sycophancy Hides Linearly in the Attention Heads. Proceedings of EACL 2026, 6896–6912. https://aclanthology.org/2026.eacl-long.324/.

Gottesman, D., & Geva, M. (2024). Estimating Knowledge in Large Language Models Without Generating a Single Token. EMNLP 2024. https://arxiv.org/abs/2406.12673.

Gurnee, W., et al. (2026). Verbalizable Representations Form a Global Workspace in Language Models. Transformer Circuits Thread. https://transformer-circuits.pub/2026/workspace/index.html.

Halawi, D., Denain, J.-S., & Steinhardt, J. (2024). Overthinking the Truth: Understanding How Language Models Process False Demonstrations. ICLR 2024. https://arxiv.org/abs/2307.09476.

Kossen, J., Han, J., Razzak, M., Schut, L., Malik, S., & Gal, Y. (2024). Semantic Entropy Probes: Robust and Cheap Hallucination Detection in LLMs. arXiv:2406.15927. https://arxiv.org/abs/2406.15927.

Levinstein, B. A., & Herrmann, D. A. (2025). Still No Lie Detector for Language Models: Probing Empirical and Conceptual Roadblocks. Philosophical Studies, 182(7), 1539–1565. https://doi.org/10.1007/s11098-023-02094-3.

Li, K., Patel, O., Viégas, F., Pfister, H., & Wattenberg, M. (2023). Inference-Time Intervention: Eliciting Truthful Answers from a Language Model. NeurIPS 2023. https://arxiv.org/abs/2306.03341.

Marks, S., & Tegmark, M. (2024). The Geometry of Truth: Emergent Linear Structure in Large Language Model Representations of True/False Datasets. COLM 2024. https://arxiv.org/abs/2310.06824.

Orgad, H., et al. (2025). LLMs Know More Than They Show: On the Intrinsic Representation of LLM Hallucinations. ICLR 2025. https://arxiv.org/abs/2410.02707.

Poulis, A., Crovella, M., & Terzi, E. (2026). Testing the Limits of Truth Directions in LLMs. arXiv:2604.03754. https://arxiv.org/abs/2604.03754.

Sarfati, R., et al. (2025). Lines of Thought in Large Language Models. ICLR 2025. https://arxiv.org/abs/2410.01545.

Sharma, M., et al. (2024). Towards Understanding Sycophancy in Language Models. ICLR 2024. https://arxiv.org/abs/2310.13548.

Sofroniew, N., et al. (2026). Emotion Concepts and Their Function in a Large Language Model. arXiv:2604.07729. https://arxiv.org/abs/2604.07729.

Stolfo, A., et al. (2024). Confidence Regulation Neurons in Language Models. NeurIPS 2024. https://arxiv.org/abs/2406.16254.

Tagliabue, V., Dung, L., & Berg, C. (2026). The Pain Axis: LLMs Represent Self-Directed Harm and Act on It. arXiv:2609.16247. https://arxiv.org/abs/2609.16247.

Tang, L., Wei, K., Jiang, T., & Huang, R. (2026). Measuring LLM Sycophancy under Sustained Multi-Turn Pressure. arXiv:2609.09090. https://arxiv.org/abs/2609.09090.

Wang, Z., et al. (2025). Unveiling Attractor Cycles in Large Language Models: A Dynamical Systems View of Successive Paraphrasing. Proceedings of ACL 2025. https://aclanthology.org/2025.acl-long.624.

Yona, G., Aharoni, R., & Geva, M. (2024). Can Large Language Models Faithfully Express Their Intrinsic Uncertainty in Words? EMNLP 2024. https://arxiv.org/abs/2405.16908.

Комментарии

[i] Кроме штатного случайного выбора продолжения на выходе последнего слоя трансформера при ненулевой температуре, дополнительную вариативность траектории обработки конкретного задания в пространстве активаций вносит организация вычислений в LLM: число одновременно обрабатываемых запросов, точность представления чисел, оборудование и т.д. (He & TML, 2025; Kasa et al., 2026). Возникающие из-за этого малые расхождения могут как гаснуть в слоях трансформера, так и лавинообразно расти (Islam et al., 2026). Особыми усилиями по организации вычислений можно добиться их полной воспроизводимости (He & TML, 2025), но при обычной эксплуатации даже при нулевой температуре одно и то же задание может приводить к разным ответам (He & TML, 2025). У исследованной в (Yuan et al., 2025) рассуждающей модели стандартное отклонение доли правильных ответов на множестве вариантов организации вычислений оказалось около 9%. Так что даже без учета штатной случайности проекция LLM-беседы на пространство активаций вполне допускает стохастическое описание. См. также раздел «4. Семантическая энтропия».

[ii] Логит-линзы – обработка состояния активаций промежуточного слоя, подобная выходной обработке для проявления ответа. В варианте tuned lens для каждого слоя трансформера обучается дополнительный «переводчик», делающий содержимое активаций яснее (Belrose et al., 2023). J-lens использует другое преобразование активаций для выявления вербализуемых представлений (Gurnee et al., 2026). Результат применения линз – языковая проекция состояния активаций данного такта LLM-беседы.

[iii] Прогоно-слой – пара «номер прогона, номер слоя». В общем случае ноосвик готовит ответ по результатам множества прогонов проекции контейнера LLM-беседы по всем слоям трансформера. На каждом слое контейнер меняется квази-детерминировано – с точностью до влияния неопределенности от вычислительного шума (см. сноску 1). После последнего слоя на каждом прогоне происходит штатная стохастизация: при ненулевой температуре следующее состояние контейнера выбирается из возможных случайным образом, определяя содержимое контейнера для следующего прогона. Когда в таком вероятностном определении состояния контейнера актуализируется маркер завершения, из контейнера определёнными процедурами выявляется ответ, который помещается в диалоговое окно ноосвика.

[iv] Для границы цикла «задание-ответ» был обнаружен интересный факт: при множественном последовательном перефразировании, когда предыдущий ответ LLM снова подаётся ей как задание, процесс может сойтись к циклическому чередованию двух вариантов (Wang et al., 2025).