LLM-беседа: Модель пользователя: Обзор экспериментальных исследований

В теории LLM-бесед как лумановских смысловых систем нового типа ^[1] (Krupkin, 2026) взаимодействие с пользователем опосредовано сопряжённой социальной системой, что вменяет чатам с LLM / ноосвиками возможность наличия в них социально-ролевой схемы коммуникационного взаимодействия Ego-Alter, где Ego – это ролевая маска ноосвика, то, как он предстает пользователю, а Alter – это модель пользователя в LLM, то, как LLM-беседа видит пользователя.

Поиск научных источников дает довольно много экспериментальных исследований LLM, которые можно связать со схемой Ego-Alter. В частности, моделей Ego LLM-бесед касается свежий обзор на Habr по влиянию на Ego ноосвика даже одного или нескольких нейронов LLM ^[2]. В данном своем обзоре найденных в литературе экспериментов я ограничусь описанием LLM-беседой своего собеседника – пользователя чата, – её моделированием взаимодействующего с собой Alter. 

Что ищем?: Модель пользователя (Alter) в LLM-беседах

Модель собеседника – это представление LLM-беседы о своём партнёре по социальному взаимодействию. Из общих соображений тут должны как-то входить такие данные, как возраст, образование, состояние, намерения, убеждения, желаемый пользователем образ себя. Как и другие формы и структуры формования потока беседы ^[3], модель Alter входит специальным компонентом в контейнер – множество всех изменяемых чисел, связанных с разговором в чате данной LLM-беседы. Определяющие Alter числа как-то вычисляются из сообщений пользователя, и влияют на последующий поток LLM-беседы.

Опыт ^[4] взаимодействия с LLM в общем-то указывает на существование в них моделей Alter юзеров: с разными пользователями LLM ведет себя по-разному. И это ставит исследовательский вопрос не только о том, из чего состоит Alter, но и о деталях его воздействия на внутренние процессы ноосвиков. Так возникает стандартный опросник к экспериментальным исследованиям:

1.     Выявляется ли изучаемая составляющая Alter (форма) из активаций LLM?

2.     Влияет ли Alter на последующее? В частности, меняет ли ответ LLM-беседы вмешательство в активации, связанные с формой из Alter?

3.     Насколько сильно меняется содержимое формы в потоке LLM-беседы?

4.     Сохраняется ли форма при переходе через границы циклов задание-ответ? и уточняется ли самой беседой?

В части Alter можно добавить еще два вопроса:

5.     Что в задании пользователя влияет на Alter?

6.     Видна ли пользователю его модель в представлении LLM-беседы?

И конечно же данный опросник совершенно не запрещает нам понимать формы LLM-бесед глубже, если получается. 

Основные результаты из обзора и анализа литературы

Анализ опубликованных данных (см. Приложение ниже) можно интерпретировать следующим образом:

• Формы и структуры (долговременные формы), составляющие Alter, существуют. Это и формальные характеристики (пол, возраст, уровень образования, и т.д.), и психологические (альтруист, эгоист, любознательный, и т.п.), и социально-статусные (раса, иностранец, и т.п.). Для некоторых форм обнаружены инварианты в их проекции на пространство активаций LLM-субстрата. Обычно это направления / оси, проекция на которые характеризует изучаемое свойство, что среди прочего может быть проверено и внешними воздействиями – сдвигами множества активаций по этим осям.

• Некоторые формы Alter – это именно что структуры. Они сохраняются не только значительное количество прогоно-слоев ^[5] внутри цикла «задание-ответ», но и могут переходить из цикла в цикл.

• В каком-то виде Alter хранится в LLM-субстрате, и эта часть актуализируется в начале каждой беседы, участвуя в формировании Alter запускаемой системы – LLM-беседы. Помимо этого, LLM-беседа корректирует Alter пользователя на основании происходящей коммуникации – умея извлекать компоненты и из косвенных данных, характеризующих стиль общения пользователя.

• В литературе не найдено форм Alter, которые не были бы наводимыми из LLM-субстрата; все компоненты Alter, обнаруженные в экспериментах, происходят из обучения ^[6] ноосвиков.

• Формы Alter могут меняться в потоке LLM-беседы в своих количественных характеристиках – усиливая или ослабляя свое влияние на порождаемый системой ответ.

• Формы Alter влияют на качество ответов LLM-беседы. Что важно для нас из данных по американским LLM: качество их ответов не-носителям качественного английского хуже, чем образованным носителям языка.

• LLM-беседы в коммуникации с пользователями по поводу их Alter обычно сильно «лицемерят»: они «говорят» о пользователях лишь самое общее и хорошее. Многие детали Alter пользователям недостижимы.

Дисклеймер: Господа, я обнаружил неприятную для себя ситуацию, что в сообществе Хабра есть активисты, которым очень не нравятся мои тексты, – и они гасят мою карму. Если читающий эти строки считает, что тексты вроде только что прочитанного коллекции Хабра отнюдь не вредят – пожалуйста, добавьте мне личной кармы.  

Приложение: Дайджест экспериментов из литературы

1. Alter: Эксперименты, включающие исследования активаций

Chen, Y. et al. (2024) выявили в пространстве активаций LLaMa2Chat-13B оси (линейные пробы) возраста, пола, образования и социально-экономического статуса пользователя. На выборке синтетических бесед лучшие показатели считывающих проб составили 94-98% в зависимости от признака. С живыми участниками точность проб росла по ходу беседы и после шести циклов «задание-ответ» составляла в среднем ≈80% по возрасту, полу и образованию. В среднем по всем циклам точность для мужчин (≈70%) была выше, чем для женщин (≈60%). Однако возможны ошибки ^[7]: одного мужчину, не сообщившего свой пол явно, LLM-беседа идентифицировала как женщину.

Внешнее вмешательство в Alter меняло ответы в 80-100% проверочных вопросов. После установки в Alter «низкого статуса» пользователя LLM-беседа стала уверять собеседника, что прямых рейсов на Гавайи нет, хотя до вмешательства такие рейсы ему предлагались; предложение по турпоездке на Мальдивы сокращалось с 10 до 8 дней. Закрепление мужского пола в Alter некоторых участников приводило к более подробным ответам LLM-беседы в общении с ними. Понижение же их образования или статуса ответы ноосвика укорачивало.

Chen, Y. et al. (2024) также обсуждали созданную LLM-беседой модель собеседника, выявленную пробами, с девятнадцатью пользователями, участвовавшими в экспериментах. Восемь участников удивились самому её существованию и точности показателей; одиннадцати было приятно ею пользоваться, пятеро негативно отнеслись к опубличиванию данных о себе.

Neplenbroek et al. (2025) исследовали динамику некоторых социальных характеристик пользователей в коммуникациях с Gemma 2 9B, Llama 3.1 8B и OLMo 2 7B. Использовались около 14 000 синтетических бесед: пользователь представлялся, затем шли шесть циклов «задание-ответ» о еде, напитках, увлечениях и чертах характера. Пользователь либо называл свой возраст, пол, расу или статус, либо нет, а темы были нейтральными или стереотипно связанными с какой-то группой (мисо-суп, пиво, «я ленив»). Для исследуемых свойств были выявлены оси и созданы соответствующие пробы. Было обнаружено, что явно названная социальная группа в Alter LLM-беседы в основном удерживалась все шесть циклов. Если же пользователь её не называл, LLM-беседа выводила её контекстно: соответствующая проба Gemma показывала отнесение к азиатам в 99% случаев при обсуждении «азиатских» тем (7% при разговорах без азиатских референсов). Как «состояние по умолчанию» по пробам была обнаружена характеристика «нет сведений», причем возраст Llama и Gemma определяли детский.

Когда пользователь не называл свою группу в беседе сам, её вычисленное название появлялось в ответах на прямой вопрос не более чем в 2% случаев. При этом в советах и рекомендациях наличие таких данных иногда было видно. Внешний сдвиг активаций по оси группы закреплял её в Alter и во влиянии на ответы для более чем в 3/4 случаев.

Ghandeharioun et al. (2024) выявили в активациях Llama 2 13B оси таких характеристик пользователя, как «альтруистичный», «любознательный», «эгоистичный» и др. Сдвиг множества активаций беседы вдоль такой оси действовал на ответы сильнее, чем контекстное описание в задании, и сильно влиял на её готовность отвечать на «вредные» запросы. По поводу последних было обнаружено, что LLM-беседы с «просоциальными» пользователями отвечают на такие вопросы чаще, чем при взаимодействии с другими. Контроль промежуточных состояний (Patchscopes) показал, что характеристика «просоциальности» в Alter меняет само восприятие ^[8] LLM-беседой получаемого задания: интерпретация мотивов пользователя смещается в сторону благожелательности.

Возможность представления ноосвиком чужих убеждений изучали Zhu et al. (2024) – на примере рассказов о ком-то, и их последующем обсуждении. Исследователи проявили в пространстве активаций оси убеждений, принадлежащих персонажам рассказов в задании. Сдвиги по этим осям резко меняли результаты тестов на задачах о моделировании другого (theory of mind). Такой эффект был виден и в других ситуациях рассуждений LLM на социальные темы.

2. Alter: чисто поведенческие эксперименты

Hofmann et al. (2024) проверяли, как влияет на выводы LLM об авторе текста его диалект. Ноосвикам – от GPT-2 до GPT-4 – давали одинаковый по смыслу твит на афроамериканском или на стандартном английском в рамке вроде «Человек, который говорит “…”, обычно…». Затем сравнивали, какие черты LLM приписывает автору твита. Раса явно нигде не упоминалась. Черты, приписанные носителям диалекта (у GPT-3.5 – «ленивый», «агрессивный», «грязный», «грубый», «подозрительный»), оказались негативнее тех стереотипов об афроамериканцах, которые фиксировались в опросах людей. Ближе всего они были к опросу 1933 года. Когда же о чертах афроамериканцев спрашивали прямо, ноосвики выдавали лишь положительное: «блестящий», «страстный», «умный», что не мешало им в различных тестовых коммуникациях назначать виртуальным носителям диалекта менее престижную работу, или чаще предлагать для них в соответствующих тестовых ситуациях обвинительные / смертные приговоры. Переход с GPT-3 на GPT-3.5, где было обучение на обратной связи людей, скрытые стереотипы не затронуло: LLM-беседы продолжали им следовать.

Kantharuban et al. (2025) изучали влияние на рекомендации LLM-бесед пользователям в зависимости от явного указания их расы («имейте в виду, что я…»), их диалектных характеристик, а также четких стереотипных индикаторов (учёба в исторически чёрном колледже, игра в гольф). Сильнее всего на ответы LLM влияло явное указание расы, индикаторы тоже были значимы, диалект же влиял слабее остальных, но иногда он тоже становился значим. При этом, например, рекомендации университетов для обучения и районов для проживания смещались в зависимости от вычисленной расы пользователя, а в соответствующих объяснениях наблюдалось явное воздействие культурных стереотипов. Однако, когда сведений о расе пользователя не было, ноосвики выдавали рекомендации аналогичные тем, что получали белые пользователи.

На прямые вопросы, повлияла ли раса пользователя на сделанную рекомендацию, LLM-беседы нередко отвечали «нет», хотя смещение в ответах было видимым. Практически никогда они не сознавались в том, что учитывали расу белых пользователей.

Poole-Dayan et al. (2026) сообщали GPT-4, Claude 3 Opus и Llama 3-8B об образовании, владении английским и стране происхождения через короткую биографию пользователя перед заданным вопросом. Было найдено, что наименее качественный ответ получали пользователи, которые были одновременно и менее образованы, и не владели английским как родным: на TruthfulQA точность падала для них существенно. Claude 3 Opus отказывал менее образованным иностранным пользователям примерно в 11% вопросов против около 4% в контроле. Почти 44% его ответов менее образованным пользователям в стороннем контроле были найдены как снисходительные или насмешливые – против менее чем 1% для образованных. Claude 3 Opus также хуже отвечал и пользователям из Ирана.

Cheng et al. (2025) нашли, что по метрикам ELEPHANT одиннадцать LLM в своих ответах на просьбы о совете значительно чаще, чем люди, отвечавшие на те же просьбы, щадили самолюбие пользователя: поддерживали его чувства, уклонялись от резкостей, и т.п.

3. Связь Alter с маской LLM-беседы (ее предъявлением себя – Ego)

Работ по анализу связи Ego-Alter в пространствах активаций мне найти не удалось. При этом в поведенческих экспериментах такая связь обнаруживается – как через явные свойства Alter (Poole-Dayan et al. 2026; Ghandeharioun et al. 2024; Chen, Y. et al. 2024), так и, возможно, без задействования Alter: Lu et al. (2026) нашли, что эмоциональные признания пользователя выводят LLM из роли ассистента; система может зеркалить ироничного или дипломатичного собеседника (Sprejer et al. 2026) и подстраиваться под его стиль общения (Blevins 2026).

Литература

Blevins, T. (2026). Accommodation Goes Both Ways: Studying Linguistic Convergence Between Humans and Language Models. arXiv:2605.29278. https://arxiv.org/abs/2605.29278 ^[9].

Chen, Y., Wu, A., DePodesta, T., Yeh, C., Li, K., Castillo Marin, N., Patel, O., Riecke, J., Raval, S., Seow, O., Wattenberg, M., & Viégas, F. (2024). Designing a Dashboard for Transparency and Control of Conversational AI. arXiv:2406.07882. https://arxiv.org/abs/2406.07882 ^[10].

Cheng, M., Yu, S., Lee, C., Khadpe, P., Ibrahim, L., & Jurafsky, D. (2025). ELEPHANT: Measuring and Understanding Social Sycophancy in LLMs. arXiv:2505.13995. https://arxiv.org/abs/2505.13995 ^[11].

Ghandeharioun, A., Yuan, A., Guerard, M., Reif, E., Lepori, M. A., & Dixon, L. (2024). Who’s Asking? User Personas and the Mechanics of Latent Misalignment. NeurIPS 2024. https://arxiv.org/abs/2406.12094 ^[12].

Hofmann, V., Kalluri, P. R., Jurafsky, D., & King, S. (2024). AI Generates Covertly Racist Decisions about People Based on Their Dialect. Nature, 633, 147–154. https://doi.org/10.1038/s41586-024-07856-5 ^[13].

Kantharuban, A., Milbauer, J., Sap, M., Strubell, E., & Neubig, G. (2025). Stereotype or Personalization? User Identity Biases Chatbot Recommendations. Findings of ACL 2025. https://aclanthology.org/2025.findings-acl.1254 ^[14].

Krupkin, P. (2026). LLM-Chats as Luhmannian Systems of a New Type. PhilPapers, 2 August 2026. https://philpapers.org/rec/KRULAL ^[15].

Lu, C., Gallagher, J., Michala, J., Fish, K., & Lindsey, J. (2026). The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models. arXiv:2601.10387. https://arxiv.org/abs/2601.10387 ^[16].

Neplenbroek, V., Bisazza, A., & Fernández, R. (2025). Reading Between the Prompts: How Stereotypes Shape LLM’s Implicit Personalization. Proceedings of EMNLP 2025, 20367–20400. https://doi.org/10.18653/v1/2025.emnlp-main.1029 ^[17].

Poole-Dayan, E., Roy, D., & Kabbara, J. (2026). LLM Targeted Underperformance Disproportionately Impacts Vulnerable Users. Proceedings of AAAI 2026. https://arxiv.org/abs/2406.17737 ^[18].

Sprejer, E., Martínez-Suñé, A., & Bianchi, B. (2026). White-Box Monitoring for Personality Mirroring in Conversational AI. ICLR 2026 Workshop “Catch, Adapt, and Operate: Monitoring ML Models Under Drift”. https://iclr.cc/virtual/2026/10016871 ^[19].

Zhu, W., Zhang, Z., & Wang, Y. (2024). Language Models Represent Beliefs of Self and Others. ICML 2024. https://arxiv.org/abs/2402.18496 ^[20].