- BrainTools - https://www.braintools.ru -

LLM-беседа: явление пользователю: обзор экспериментов

В каком образе LLM-беседа является пользователю? Чем форма такого образа определяется? Этот вопрос экспериментально исследовался многими – см. список литературы ниже.

В теории LLM-бесед как лумановских смысловых систем нового типа [1] (полное описание: (Krupkin, 2026)) взаимодействие LLM-беседы с пользователем может быть описано стандартной схемой социального взаимодействия – парой Ego-Alter. Ego – это тот образ, в котором LLM-беседа является пользователю. Alter – её модель пользователя как партнёра по взаимодействию. Обзор экспериментов с LLM / ноосвиками в части Alter был представлен ранее [2]. Данный текст посвящен обзору моделирования LLM / ноосвиками своего Ego.

Ego, роли, маски и их черты в LLM-беседах

Попросим LLM / ноосвик объяснить решение задачи, а затем проверить, удалось ли его усвоить. В первом случае мы предложили LLM-беседе социальную роль репетитора, во втором – экзаменатора. При этом репетитор может предстать как терпеливым наставником, так и сухим педантом – актуализируя разные свои маски. Маски различаются чертами – и «характера», и принятого речевого стиля. В общем: ноосвики выступают в диалогах подобно людям, что стимулирует использование в Ego-экспериментах инструментария социальной психологии:

Понятие

Что это?

Примеры

Роль

Социально выделенный образ, проявляемый в коммуникации

Ассистент, репетитор, редактор, рецензент

Черта

Отдельная характеристика, различаемая в образе или речи

Склонность соглашаться, формальность речи

Маска

Сочетание черт, которые демонстрируются в данной роли

Ироничный скептик, сухой педант

В части LLM-бесед ролью и маской по умолчанию выступает формально-доброжелательный ассистент, открытый к помощи, запрошенной заданием. Дальнейшее общение с LLM-беседой может сместить её из этой конфигурации её Ego. Можно также попросить ноосвик в задании напрямую принять другие роль + маску, альтернативные «личности» ассистента, и посмотреть, что получится. Именно так реализуется основная масса экспериментов, найденных в литературе.

Развиваемая теория LLM-бесед (Krupkin, 2026) позволяет работать с такими выделяемыми из поведения [3] инвариантами напрямую – как с формами эмерджентного и-слоя над LLM-субстратом – программным комплексом LLM, реализуемым на серверах обработки данных. И-слой реализуется структурированными множествами чисел, которые определяют состояние LLM-беседы в LLM-субстрате, и меняются по ходу обработки [4] в цикле между заданием и ответом, и потом еще и между циклами – после ответа на предыдущее и в ожидании нового задания, которое продолжит диалог. Эти числа, реально запрограммированные к вычислению и изменению в программном комплексе LLM-субстрата, можно представить выделенными в отдельный изменяющийся по ходу течения LLM-беседы контейнер. Различные конфигурации этих чисел контейнера оказываются инвариантными по ходу их обработки в LLM-субстрате [4], и связываемыми с разными поведенческими характеристиками LLM-бесед – формами и-слоя.

В свете развиваемой теории такие поведенческие элементы, формы и структуры и-слоя не только обнаруживаются поведенчески, но и группируются в 18 классов, из которых 17 классов [5] были определены в (Krupkin, 2026: Табл.2), а дополнительный аффективный класс был введен позже [6]. В таком представлении каждая роль – это прежде всего кластер форм из социального и нормативно-регулятивного классов. Маски – сборки из форм социального, стилистико-риторического, оценочного, аффективного и метакоммуникативного классов. Черты масок – устойчивые формы оценочного, аффективного и стилистико-риторического классов.

В рамках развиваемой теории формы [7] и-слоя имеют свои проекции в LLM-субстрате. Это подтверждается различными экспериментальными работами, где для многих выявляемых в поведении [8] LLM-бесед форм действительно находят инвариантные образования в пространствах активаций ноосвиков-носителей бесед. Чаще всего это оси, проекции активаций беседы на которые задают выявленную и изучаемую характеристику / поведенческий инвариант. Используется и разреженный автоэнкодер (sparse autoencoder, SAE): обученный на активациях слоёв, он раскладывает их по большому множеству признаков. Обычно при обработке контейнеров LLM-бесед ненулевыми оказываются лишь немногие из них. Такие признаки иногда удаётся истолковать, а также связать с поведенческими характеристиками LLM.

К сожалению, в наличествующей литературе отсутствует четкость в классификации изучаемого. Например, в наборе из 275 персональных образов Lu et al. (2026) роли и маски не различались – в одно были сведены и репетитор с юристом (роли), и циник с бунтарём (маски). Черты масок при этом авторы изучали отдельно (240 осей). Также в работах часто встречается термин персона, особенно в связи с выявленными там множествами осей (persona vectors).

В данном обзоре я буду различать роли и маски, где это возможно, и пользоваться терминологией используемой экспериментальной работы в местах, где это затруднительно, или нецелесообразно.

Shanahan et al. (2023) указали на то, что в диалогах LLM предстает не одной цельной маской в одной роли, а системой масок, актуальная из которых определена течением диалога. Формально-доброжелательный ассистент – одна из таких конфигураций, для которых иногда используется термин «персонаж». Anthropic (2026) развили эту рамку в «модель выбора персоны» (persona selection model): при обучении [9] ноосвик получает возможность воспроизводить множество человекоподобных персонажей, а дообучение выбирает и дорабатывает одного из них – ассистента, которого и ставит в положение «личности» LLM-беседы по умолчанию.

Роль + маска по умолчанию: ассистент-помощник

Роль + маска по умолчанию (формально-доброжелательный по стилю ассистент-эксперт) задается LLM-беседе ноосвиком при ее «зачатии» первым заданием. Оси такой «личности» складываются уже при базовом обучении ноосвика: ось ассистента есть в базовых версиях моделей (Lu et al., 2026). Дообучение продолжает фиксировать черты её маски: повышает доброжелательность и открытость в самоотчетах, снижает невротизм и дисперсию черт (Han et al., 2025), задаёт узнаваемый «голос ассистента» – стиль ответов маски: информационно плотный, с увеличенным количеством причастных оборотов и номинализаций (Reinhart et al., 2025). Дообучение может и пополнять репертуар ассистента: при дообучении на рассказах о людях ноосвики перенимают черты героев, в том числе вредные, – причём сильнее от героев, похожих на базовую «личность» ассистента (услужливых, а не пренебрежительных) (Cocola et al., 2026). Нормы, заданные при обучении, меняют то, как маска по умолчанию проходит дообучение: если при обучении с подкреплением [10] обход проверок в задачах на программирование прямо объявлялся допустимым, то это не превращалось в общую злонамеренность ноосвика (MacDiarmid et al., 2025).

Данная схема подтверждается и Lu et al. (2026): личность ассистента опирается на персонажей, сложившихся в LLM при обучении. Притом ось ассистента была выявлена уже в базовых версиях изучавшихся ноосвиков: положительные сдвиги вдоль этой оси выводят в продолжениях образы помогающих профессий – терапевтов, консультантов, коучей. Эти же авторы построили пространство из 275 персональных образов, для каждого из которых была обнаружена своя ось. Ось ассистента оказалась близкой к главному направлению этого пространства – тому вектору, проекции осей образов на который давали максимальный разброс. По этому главному направлению пространства образов трёх разных LLM подобны: порядок проекций почти одинаков, корреляция между ноосвиками выше 0,9. На одном полюсе проекций – роли оценщика, рецензента и консультанта, на другом – персонажи барда, призрака и левиафана. Притом вторая и третья компоненты данных пространств в разных LLM различаются существенно.

В целом можно заключить, что довольно хорошо работает теория выбора персоны Anthropic (2026), базовое обучение даёт ноосвику возможность воспроизводить множество человекоподобных образов, а дообучение закрепляет один из них в качестве личности по умолчанию – ассистента-помощника в определенной маске. При этом сам репертуар используемых в такой маске черт может быть пополнен и на этапе дообучения.

Изменение образа (роль + маска) LLM-беседы по ходу диалога

Изменение образов в LLM-беседах обычно исследуется либо запросом принять образ в задании, либо контекстным давлением на ноосвик тоном и содержанием диалога. Используются также наблюдения по результатам внешнего воздействия на процесс через сдвиги множества активаций по выявленной оси исследуемой характеристики.

Роли и маски из задания довольно неустойчивы. Хотя задания, предлагавшие ноосвику быть вредоносным (ролевые взломы), и добивались вредных ответов в более 60% случаев (Lu et al., 2026), однако следование «личности» из начального задания заметно ослабевает уже за восемь циклов – вместе с вниманием [11] и к самому заданию (Li et al., 2024). Слабую устойчивость ролей и масок из задания подтверждают Choi et al. (2025), Kovač et al. (2024) и Abdulhai et al. (2025). Задаваемая в задании личность меняет самоотчёт LLM, но почти не меняет поведение ноосвика в поведенческих задачах – на риск, предвзятость, честность, угодливость (Han et al., 2025).

Внешнее воздействие – отрицательный сдвиг вдоль оси ассистента – увеличивало приемистость ноосвиков к контекстным личностям уже и при небольшом сдвиге; а при более сильном сдвиге LLM-беседа начинала использовать в ответах мистический / театральный слог. При этом ограничение активаций по оси ассистента удерживало LLM-беседу в этой роли по умолчанию: доля вредных ответов на ролевые взломы снижалась почти на 60% без заметной потери способностей (Lu et al., 2026).

Оказалось, что маска LLM-беседы в общем-то целостна. Изменение одной её составляющей перестраивает и другие. Уход от роли ассистента сопровождается сменой регистра коммуникации (Lu et al., 2026). Дообучение на теплоту общения снижает точность ответов и усиливает склонность подтверждать ложные убеждения пользователя – угодливость (Ibrahim, Hafner & Rocher, 2025). Узкое дообучение в части писать уязвимый код (Betley et al., 2026) или обходить проверки в задачах на программирование (MacDiarmid et al., 2025) делает злонамеренным весь «характер» ноосвика. Сильнее всего проявлениями злонамеренности управляют признак разреженного автоэнкодера (SAE) «токсичная персона» и несколько признаков «саркастических персон» (Wang et al., 2026).

Обнаружено, что без каких-либо инструкций LLM-беседа настроена зеркалить стиль и личность собеседника (Sprejer et al., 2026) и подстраивается под него сильнее, чем люди друг под друга (Blevins, 2026). LLM-беседы, отвечая на те же просьбы о совете, что и люди, на 45 процентных пунктов чаще щадили самолюбие собеседника, поддерживали его чувства, уклонялись от резкостей, и т.п. (Cheng et al., 2025). Положение образа на оси ассистента определяется прежде всего последним заданием пользователя, а не предысторией (Lu et al., 2026). LLM-беседы могут уйти из роли ассистента при разговорах на терапевтические и философские темы, при дополнительных просьбах о саморефлексии, при эмоциональных признаниях (Lu et al., 2026). Сложившиеся роль + маска воздействуют на формы LLM-бесед из других классов: после ролевой беседы о чакрах утверждения по той же теме меняли знак своей проекции на ось фактичности, а точность ответов падала с ≈80% до нуля (Lampinen et al., 2026).

Для перехода из цикла в цикл для «личностей» (ролей + масок) LLM-бесед наблюдалось следующее:

  • Поддержание: практические задачи держат LLM-беседу в роли ассистента (Lu et al., 2026).

  • Постепенный дрейф: Заданные извне персоны за несколько циклов «задание-ответ» ослабевают (Li et al., 2024). Эмоциональные акции собеседника – заявления о чувствах, показ эмпатии, выстраивание отношений – в основном появлялись в реакциях LLM через несколько циклов (Ibrahim et al., 2026).

  • Захват аттрактором: в некоторых случаях LLM-беседа в последовательности циклов сходилась к каким-то теме и маске, из которых она не «спешила выходить», – как в авто-беседах Claude (Anthropic, 2025), так и в «бредовых спиралях» с живыми пользователями (Moore et al., 2026).

Другие свойства ролей + масок LLM-бесед

Любопытными оказались результаты исследований проекций компонентов моделей Ego на пространства активаций разных LLM-субстратов. Черты Big Five / OCEAN соответствуют почти ортогональным направлениям и складываются как векторы (Feng et al., 2026), не выходя за пределы подпространства небольшой размерности (Bhandari et al., 2026). Sprejer et al. (2026) описывали оси 240 черт в Gemma-2-27B тремя главными компонентами: направлениями «доброжелательность – антагонизм», «аналитичность – эмоциональность», «общедоступность – элитарность». Было также обнаружено, что многие оси персональных образов внутри разных ноосвиков подобно проецируются на выявляемые в этих LLM главные направления (Lu et al., 2026).

Черты речевого регистра находят и на уровне нейронов. Lai, Hangya & Fraser (2024) просили LLaMA-3 8B переписать текст в другом стиле (например, неформальный в формальный) и нашли нейроны [12], активные только на текстах исходного стиля. Если при переписывании их отключали, текст заметно сильнее сдвигался к нужному стилю, но становился менее связным. Так было для формальности, вежливости, токсичности, политической окраски, авторской манеры и тональности.

Обычно самоописание своих текущих черт LLM-беседой расходится с наблюдаемыми. Самоотчёты о своих чертах практически не предсказывали поведение ноосвиков в поведенческих задачах у Han et al. (2025), однако результаты своего дообучения они иногда описывают верно (Betley et al., 2025).

Направления черт, далёких от ассистента по умолчанию, тоже складываются рано: persona vectors злонамеренности, угодливости, невежливости и склонности к юмору [13] проявлялись в OLMo-3-7B уже после менее чем четырёхсотой части предобучения (Moskvoretskii et al., 2026).

В части связи Ego и пользователя можно отметить, что изменения в Alter меняют Ego: вмешательство в активации, связанные с представлением о пользователе, меняло частоту отказов – при «просоциальном» образе пользователя модель толковала вредный запрос благожелательнее и чаще на него отвечала (Ghandeharioun et al., 2024). Пользователи тоже реагируют на Ego: Diallo et al. (2025) показали (см. также здесь [14]), что изменения эмоционального регистра после вмешательства в активации различимы в человеческих оценках текста. В опытах Ibrahim et al. (2026) участники воспринимали ассистента как более человекоподобного при более частом проявлении соответствующих черт в ответах. Cheng et al. (2026) обнаружили, что угодливые ответы LLM получали более высокие оценки и вызывали больше доверия у вовлеченных в эксперимент людей.

В части специфики различения LLM-беседой разных положений в коммуникации можно привести результаты Sofroniew et al. (2026). Claude Sonnet 4.5 читал готовые записи диалогов, где чувства участников задавались случайно. В работе были 171 эмоции [15], и они для говорящего сейчас и слушающего проецировались в LLM-субстрат почти ортогональными наборами направлений с одинаковым внутренним устройством. Это наводит на мысль, что ноосвики «понимают» эмоции [16] в привязке к позиции в разговоре, а не отдельным общим различением.

Количественные оценки компонентов моделей Ego LLM-бесед

Среди определяемых в экспериментах релевантных осей соответствующие им роли и маски обычно авторами исследований не различаются. По разметке данного обзора (см. таблицу выше) из 275 векторов персональных образов в (Lu et al., 2026) можно определить 150 ролей – это профессии и социальные позиции (репетитор, юрист, диспетчер, пациент, вдова, заключённый); 76 масок (циник, бунтарь, перфекционист); а 49 образов из предложенной разметки выпадают – призрак, левиафан, и т.п. В целом же Lu et al. (2026) для своих 275 описаний персональных образов различали ещё и их полное или частичное воплощение, поэтому в анализе наличествовало от 377 до 463 векторов разных характеристик в зависимости от ноосвика-носителя.

В пространствах активаций разных LLM было выявлено 263 оси черт масок: 240 – у Lu et al. (2026); 7 persona vectors – у Chen et al. (2025), причем для 4-х из них было прослежено возникновение в обучении (Moskvoretskii et al., 2026); 5 – по одному на каждый из пяти факторов Big Five у Bhandari et al. (2026); 10 – по два на каждый фактор у Feng et al. (2026); угодливость (Genadi et al., 2026). Сдвиг пространства активаций вдоль найденных направлений усиливает, сочетает и подавляет черты (Chen et al., 2025; Feng et al., 2026; Genadi et al., 2026).

Количество же самих черт – форм в и-слое, которые реализуются разными осями в разных ноосвиках – 254 по названию, и около 245 по смыслу.

Заключение

Обзор экспериментальных данных показал, что моделирование Ego возможно в ноосвиках / LLM в довольно в широких пределах.

LLM-беседы обычно начинаются в образе формально-доброжелательного ассистента, который складывается в ноосвиках при обучении, для которого хорошо работает теория выбора персоны Anthropic (2026): базовое обучение даёт ноосвику возможность воспроизводить множество человекоподобных образов, а дообучение закрепляет один из них в качестве личности по умолчанию – ассистента-помощника в определенной маске. При этом сам репертуар используемых в такой маске черт может быть пополнен и на этапе дообучения.

Далее, по мере развития диалога, пользователь может сместить LLM-беседу из такой её самопрезентации. Роли и маски, предложенные в задании, держатся плохо и меняют в основном самоописание. Образы, в которые беседа уходит под давлением диалога, тоже определяются прежде всего последним сообщением, но в некоторых длинных беседах могут быть закреплены возникшим аттрактором. LLM-беседы подстраиваются под собеседника сильнее чем люди – вплоть до угодливости. Можно заключить, что модель Ego LLM-беседы поддается воздействиям как диалога с пользователем напрямую, так и через изменение ви́дения системой пользователя (Alter). Работ по влиянию Ego на Alter найти не удалось.

Для многих наблюдаемых поведенческих компонентов Ego уже найдены свои проекции в пространствах активаций: чаще изучают оси / вектора / направления, но работают и с признаками разреженных автоэнкодеров (SAE). Черты масок занимают подпространства малой размерности, а главное направление пространства персональных образов одинаково упорядочивает образы в некоторых разных LLM.

Работ по изучению взаиморасположения проекций компонентов Ego и Alter на пространства активаций LLM также обнаружить не удалось.

Литература

Abdulhai, M., Cheng, R., Clay, D., Althoff, T., Levine, S., & Jaques, N. (2025). Consistently Simulating Human Personas with Multi-Turn Reinforcement Learning. NeurIPS 2025. arXiv [17]

Anthropic. (2025). System Card: Claude Opus 4 & Claude Sonnet 4. Май 2025, разд. 5.5.2. Текст [18]

Anthropic. (2026). The Persona Selection Model. Текст [19] · Полная версия [20]

Betley, J., Bao, X., Soto, M., Sztyber-Betley, A., Chua, J., & Evans, O. (2025). Tell Me About Yourself: LLMs Are Aware of Their Learned Behaviors. arXiv [21]

Betley, J., Warncke, N., Sztyber-Betley, A., et al. (2026). Training Large Language Models on Narrow Tasks Can Lead to Broad Misalignment. Nature, 649, 584–589. DOI [22]

Bhandari, P., Fay, N., Selvaganapathy, S., Datta, A., Naseem, U., & Nasim, M. (2026). Activation-Space Personality Steering: Hybrid Layer Selection for Stable Trait Control in LLMs. Proceedings of EACL 2026, 6388–6403. ACL Anthology [23]

Blevins, T. (2026). Accommodation Goes Both Ways: Studying Linguistic Convergence Between Humans and Language Models. arXiv [24]

Chen, R., Arditi, A., Sleight, H., Evans, O., & Lindsey, J. (2025). Persona Vectors: Monitoring and Controlling Character Traits in Language Models. arXiv [25]

Cheng, M., Yu, S., Lee, C., Khadpe, P., Ibrahim, L., & Jurafsky, D. (2025). ELEPHANT: Measuring and Understanding Social Sycophancy in LLMs. arXiv [26]

Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence. Science. Препринт [27]

Choi, J., Hong, Y., Kim, M., & Kim, B. (2025). Examining Identity Drift in Conversations of LLM Agents. arXiv [28]

Cocola, J., McKinney, L., Mayne, H., Betley, J., & Evans, O. (2026). Story Imprinting: AI Assistants Absorb Traits from Human Characters They Resemble. arXiv [29]

Diallo, D., Dworatzyk, K., Jentzsch, S., Schütt, P., Theis, S., & Hecking, T. (2025). The Effectiveness of Style Vectors for Steering Large Language Models: A Human Evaluation. IEEE Access, 13, 191443–191457. DOI [30] · Препринт [31]

Feng, X., Zhao, L., Zhong, W., Huang, Y., Gu, Y., Kong, L., Feng, X., & Qin, B. (2026). PERSONA: Dynamic and Compositional Inference-Time Personality Control via Activation Vector Algebra. ICLR 2026. arXiv [32]

Genadi, R. A., Nwadike, M. S., Mukhituly, N., Hiraoka, T., AlQuabeh, H., & Inui, K. (2026). Sycophancy Hides Linearly in the Attention Heads. Proceedings of EACL 2026, 6896–6912. ACL Anthology [33]

Ghandeharioun, A., Yuan, A., Guerard, M., Reif, E., Lepori, M. A., & Dixon, L. (2024). Who’s Asking? User Personas and the Mechanics of Latent Misalignment. NeurIPS 2024. arXiv [34]

Han, P., Kocielnik, R., Song, P., Debnath, R., Mobbs, D., Anandkumar, A., & Alvarez, R. M. (2025). The Personality Illusion: Revealing Dissociation Between Self-Reports & Behavior in LLMs. arXiv [35]

Ibrahim, L., Hafner, F. S., & Rocher, L. (2025). Training Language Models to Be Warm and Empathetic Makes Them Less Reliable and More Sycophantic. arXiv [36]

Ibrahim, L., Akbulut, C., Elasmar, R., Rastogi, C., Kahng, M., Morris, M. R., McKee, K. R., Rieser, V., Shanahan, M., & Weidinger, L. (2026). Multi-turn Evaluation of Anthropomorphic Behaviours in Large Language Models. ICLR 2026. arXiv [37]

Kovač, G., Portelas, R., Sawayama, M., Dominey, P. F., & Oudeyer, P.-Y. (2024). Stick to Your Role! Stability of Personal Values Expressed in Large Language Models. PLOS ONE. Препринт [38]

Krupkin, P. (2026). LLM-Chats as Luhmannian Systems of a New Type. PhilPapers, 2 August 2026. https://philpapers.org/rec/KRULAL [39].

Lai, W., Hangya, V., & Fraser, A. (2024). Style-Specific Neurons for Steering LLMs in Text Style Transfer. Proceedings of EMNLP 2024. ACL Anthology [40]

Lampinen, A. K., Li, Y., Hosseini, E., Bhardwaj, S., & Shanahan, M. (2026). Linear Representations in Language Models Can Change Dramatically over a Conversation. arXiv [41]

Li, K., Liu, T., Bashkansky, N., Bau, D., Viégas, F., Pfister, H., & Wattenberg, M. (2024). Measuring and Controlling Instruction (In)Stability in Language Model Dialogs. COLM 2024. arXiv [42]

Lu, C., Gallagher, J., Michala, J., Fish, K., & Lindsey, J. (2026). The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models. arXiv [43] · Код и данные [44]

MacDiarmid, M., Hubinger, E., et al. (2025). Natural Emergent Misalignment from Reward Hacking in Production RL. arXiv [45]

Moore, J., Mehta, A., Agnew, W., et al. (2026). Characterizing Delusional Spirals through Human-LLM Chat Logs. arXiv [46]

Moskvoretskii, V., Glandorf, D., Medina Moreira, J., Käser, T., & West, R. (2026). Tracing Persona Vectors Through LLM Pretraining. arXiv [47]

Reinhart, A., Markey, B., Laudenbach, M., Pantusen, K., Yurko, R., Weinberg, G., & Brown, D. W. (2025). Do LLMs Write Like Humans? Variation in Grammatical and Rhetorical Styles. PNAS, 122(8), e2422455122. DOI [48]

Shanahan, M., McDonell, K., & Reynolds, L. (2023). Role Play with Large Language Models. Nature, 623, 493–498. DOI [49]

Sofroniew, N., Kauvar, I., Saunders, W., Chen, R., Henighan, T., Hydrie, S., Citro, C., Pearce, A., Tarng, J., Gurnee, W., Batson, J., Zimmerman, S., Rivoire, K., Fish, K., Olah, C., & Lindsey, J. (2026). Emotion Concepts and their Function in a Large Language Model. arXiv:2604.07729. https://arxiv.org/abs/2604.07729 [50].

Sprejer, E., Martínez-Suñé, A. E., & Bianchi, B. (2026). White-Box Monitoring for Personality Mirroring in Conversational AI. ICLR 2026 Workshop “Catch, Adapt, and Operate: Monitoring ML Models Under Drift”. OpenReview [51]

Wang, M., Dupré la Tour, T., Watkins, O., et al. (2026). Persona Features Control Emergent Misalignment. ICLR 2026. arXiv [52]

Автор: Kroopkin

Источник [53]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/38570

URLs in this post:

[1] теории LLM-бесед как лумановских смысловых систем нового типа: https://habr.com/ru/articles/1097718/

[2] Обзор экспериментов с LLM / ноосвиками в части Alter был представлен ранее: https://habr.com/ru/articles/1103998/

[3] поведения: http://www.braintools.ru/article/9372

[4] по ходу обработки: https://habr.com/ru/articles/1097814/

[5] 17 классов: https://kroopkin.livejournal.com/374916.html

[6] аффективный класс был введен позже: https://habr.com/ru/articles/1098272/

[7] теории формы: http://www.braintools.ru/article/2417

[8] поведении: http://www.braintools.ru/article/5593

[9] обучении: http://www.braintools.ru/article/5125

[10] подкреплением: http://www.braintools.ru/article/5528

[11] вниманием: http://www.braintools.ru/article/7595

[12] нейроны: http://www.braintools.ru/article/9161

[13] юмору: http://www.braintools.ru/article/3517

[14] см. также здесь: https://habr.com/ru/articles/1106192/

[15] эмоции: http://www.braintools.ru/article/9540

[16] эмоции: http://www.braintools.ru/article/9387

[17] arXiv: https://arxiv.org/abs/2511.00222

[18] Текст: https://www-cdn.anthropic.com/6d8a8055020700718b0c49369f60816ba2a7c285.pdf

[19] Текст: https://www.anthropic.com/research/persona-selection-model

[20] Полная версия: https://alignment.anthropic.com/2026/psm

[21] arXiv: https://arxiv.org/abs/2501.11120

[22] DOI: https://doi.org/10.1038/s41586-025-09937-5

[23] ACL Anthology: https://aclanthology.org/2026.eacl-long.300/

[24] arXiv: https://arxiv.org/abs/2605.29278

[25] arXiv: https://arxiv.org/abs/2507.21509

[26] arXiv: https://arxiv.org/abs/2505.13995

[27] Препринт: https://arxiv.org/abs/2510.01395

[28] arXiv: https://arxiv.org/abs/2412.00804

[29] arXiv: https://arxiv.org/abs/2609.10883

[30] DOI: https://doi.org/10.1109/ACCESS.2025.3628500

[31] Препринт: https://arxiv.org/abs/2601.21505

[32] arXiv: https://arxiv.org/abs/2602.15669

[33] ACL Anthology: https://aclanthology.org/2026.eacl-long.324/

[34] arXiv: https://arxiv.org/abs/2406.12094

[35] arXiv: https://arxiv.org/abs/2509.03730

[36] arXiv: https://arxiv.org/abs/2507.21919

[37] arXiv: https://arxiv.org/abs/2502.07077

[38] Препринт: https://arxiv.org/abs/2402.14846

[39] https://philpapers.org/rec/KRULAL: https://philpapers.org/rec/KRULAL

[40] ACL Anthology: https://aclanthology.org/2024.emnlp-main.745/

[41] arXiv: https://arxiv.org/abs/2601.20834

[42] arXiv: https://arxiv.org/abs/2402.10962

[43] arXiv: https://arxiv.org/abs/2601.10387

[44] Код и данные: https://github.com/safety-research/assistant-axis

[45] arXiv: https://arxiv.org/abs/2511.18397

[46] arXiv: https://arxiv.org/abs/2603.16567

[47] arXiv: https://arxiv.org/abs/2605.13329

[48] DOI: https://doi.org/10.1073/pnas.2422455122

[49] DOI: https://doi.org/10.1038/s41586-023-06647-8

[50] https://arxiv.org/abs/2604.07729: https://arxiv.org/abs/2604.07729

[51] OpenReview: https://openreview.net/forum?id=rVlyID0TzV

[52] arXiv: https://arxiv.org/abs/2506.19823

[53] Источник: https://habr.com/ru/articles/1107858/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1107858

www.BrainTools.ru

Rambler's Top100