Вторая статья цикла «Человек в мире современных технологий». Изначальная статья, самая интересная на мой вкус Зияющие алгоритмы, или Обезьяна с гранатой: почему нам нужен манометр, а не запрет ИИ, Вторая — о расцеплении тела, места и действия о расцеплении тела, места и действия— Сегодня — о другом разрыве: между тем, что вы хотите видеть, и тем, что вам показывают.
У рекомендательной системы есть целевая функция. У политической философии — теория справедливости. Мой тезис: это один и тот же текст, записанный в разных нотациях. И пока мы делаем вид, что ранжирование — «просто математика», философию в нашу ленту зашивают те, кто не считает нужным её обсуждать.
Дальше я покажу, где именно в коде лежит эта философия, какие три конкурирующие теории справедливости уже реализованы в продакшене, и почему спор Платона с либералами XX века сегодня решается коммитом в ранжировщик.
1. «Нейтральный алгоритм» — это оксюморон
Инженерная привычка: метрика — термометр. Мы будто бы просто измеряем то, что пользователю нравится, и подкручиваем выдачу. Но метрика — не термометр, а конституция. Она не измеряет ценности, она их назначает.
Смотрите, как один и тот же каталог превращается в разные миры:
-
оптимизируем CTR — получаем кликбейт: заголовок обещает то, чего в тексте нет;
-
оптимизируем watch time — получаем кроличьи норы и эскалацию: следующий ролик должен быть чуть эмоциональнее предыдущего;
-
оптимизируем опросы удовлетворённости («time well spent») — получаем ленту, которая иногда говорит «на сегодня хватит».
Это не разные настройки одной нейтральной машины. Это разные ответы на вопрос «что считать благом пользователя»: сиюминутное желание, вовлечённость или рефлексивное «мне это было полезно». Закон Гудхарта добивает остальное: как только суррогатная метрика становится целью, она перестаёт измерять то, что измеряла.
Выбор суррогата — акт этический, а не технический. Просто он не требует этического ревью, и поэтому проходит незамеченным.
2. Как мы уволили редактора — и что он делал на самом деле
В эпоху прессы повестку собирал человек. Главный редактор решал, что попадёт на первую полосу: наука или скандал, парламент или коты. Это была и цензура, и служба: у редактора были обязательства перед обществом, а не только перед аудиторией. Билл Келлер, тогдашний главред New York Times, формулировал прямо: «Мы не позволяем интернет-метрикам диктовать нам задания… читатели приходят к нам за нашими суждениями, а не за суждениями толпы. Мы не American Idol».
Ранний интернет обещал убрать посредника вовсе. Эстер Дайсон, одна из первопроходцев Сети: «Великое достоинство Интернета в том, что он размывает власть… высасывает власть из центра и отдаёт её на периферию». Переход от «принудительной доставки» информации к «доставке по запросу» казался чистой победой свободы: государство и корпорации больше не контролируют десяток каналов, выбор у гражданина.
Но у редактора была не только власть. У него была функция: общая повестка. Демократия, как писал Дьюи, требует, чтобы граждане видели мир не только со своей точки зрения и исходили из общих фактов. Редакторская первая полоса — грубая, пристрастная, но общая для всех — эту функцию выполняла.
Когда повестку собрали алгоритмы, выяснилось: мы уволили не цензора. Мы уволили человека, который отвечал за то, что у общества есть общий стол.
3. Один пользователь — один голос
Теперь посмотрим на исходники. Классическая коллаборативная фильтрация — «пользователям с похожими оценками нравятся похожие вещи» — в пределе сводится к матричной факторизации:
# Эгалитарная лента: каждый голос весит одинаково
loss = sum((r[u, i] - dot(p[u], q[i])) ** 2 for u, i in observed)
Обратите внимание на то, чего здесь нет: весов. Оценка студента и оценка профессора, лайк бота и лайк эксперта входят в функцию потерь с одинаковым коэффициентом. Это не математическая необходимость. Это эгалитаризм, реализованный в коде: один пользователь — один голос, и никакой голос не «правильнее» другого.
Я не шучу про философию. В рекомендательных системах по умолчанию зашита именно та теория справедливости, которую либеральная традиция вырабатывала столетиями: равенство голосов, недоверие к任何形式的 «экспертной надстройке», суверенитет вкуса. И зашита она не потому, что так истиннее, а потому, что так проще, дешевле и не вызывает скандала.
Побочный эффект этой философии Марк Цукерберг описал с обезоруживающей честностью: «Белка, умирающая у вас под окном, на данный момент может быть более релевантной вашим интересам, чем люди, умирающие в Африке». Релевантность — не значимость. Система, честно оптимизирующая клики, оптимизирует то, что психика выбирает в состоянии усталости, а не то, что человек счёл бы важным, подумав. Канемановская система 1 голосует чаще системы 2 — и лента демократично это учитывает. Культуролог Ли Сигел резюмировал: «Клиенты всегда правы; люди — не всегда».
Так «демократия кликов» приходит к котикам. Не потому, что люди плохи, а потому, что суверенитет мгновенного желания — это тоже политическая позиция, и у неё есть цена.
4. Пузырь фильтров: что правда, а что миф
Эли Паризер в 2011-м описал «пузырь фильтров»: персонализация незаметно сужает мир до приятного. Его пример: запрос «British Petroleum» выдаёт одному человеку финансовую отчётность, другому — экологию и суды. Два гражданина одной страны живут в разных информационных вселенных и не знают об этом.
Здесь я обязан быть честным, иначе первый же комментатор справедливо меня разнесёт. Сильная версия пузыря эмпирически не подтверждается. Bakshy et al. (Science, 2015) на данных Facebook показали: алгоритм сужает повестку меньше, чем собственный выбор пользователя. Dubois & Blank (2018) прямо назвали эффект эхо-камер переоценённым: у большинства людей рацион разнообразнее, чем принято думать.
Но это не значит, что проблемы нет. Просто она другая:
-
Исчезновение общей повестки. Даже видя «чужое», мы не имеем общего набора фактов, вокруг которого можно спорить. Дьюи тревожился именно об этом.
-
Оптимизация возмущения. Brady et al. (PNAS, 2017): морально-эмоциональная лексика резко повышает распространяемость сообщений. Лента, оптимизирующая вовлечённость, систематически отбирает гнев — не из идеологии, а из арифметики.
-
Микротаргетинг. Разным группам можно показывать несовместимые версии реальности, и публичного спора не возникает вовсе: спорить не о чем, никто не видел одного и того же.
То есть беда не в том, что мы никогда не встречаем «иное». Беда в том, что у нас больше нет общей площади, где встреча имеет смысл. А ещё — в том, что пузырь лишает нас творческого импульса: синтез рождается из столкновения с чуждым мнением, а лента, заботливо ограждающая от дискомфорта, ограждает и от мысли.
5. Три теории справедливости в трёх строчках кода
Самое интересное: альтернативы эгалитаризму технически тривиальны. Вопрос только в том, кто решится их закоммитить.
Эпистократия (Платон, а из свежих — Джейсон Бреннан, «Against Democracy», 2016). Вес голоса — функция подтверждённой компетентности:
# Эпистократическая лента: вес голоса = верифицированная компетентность
loss = sum(w[u] * (r[u, i] - dot(p[u], q[i])) ** 2 for u, i in observed)
# w[u] = f(подтверждённые_компетенции, трек-рекорд, образование)
Это ровно та мысль, которую я формулировал ещё в диссертации: можно учитывать не число лайков, а вес оценки — и это будет не вопрос технологий, а вопрос философской позиции. Лента Платона: голос знающего весит больше.
Проблемы, впрочем, ровно те, о которые разбивался Платон: кто сертифицирует экспертов? Не захватят ли сертификацию те, у кого уже есть власть? Компетентность домен-специфична: эпидемиолог не эксперт по налогам, а метрика «экспертности» сама попадёт под Гудхарта. Мэдисон в «Федералисте» ответил на это одной фразой: «Если бы людьми управляли ангелы, был бы не нужен какой-либо контроль над правительством». Ангелов не завезли, и эпистократия без контроля — это просто олигархия с дипломом.
Бриджинг (реализовано в Community Notes в X). Третья философия, которой не было в классическом споре: голос учитывается не по числу и не по компетентности, а по способности пересекать разногласия. Алгоритм (открытый, на матричной факторизации) признаёт заметку полезной только если её поддержали люди, которые обычно оценивают противоположно. Не «большинство», не «эксперты», а «те, кто редко согласен, но здесь согласился». Это консенсус через разногласие — и это уже работает в продакшене на миллионы людей.
Право на выход (либеральный ответ). Хронологическая лента, кастомные фиды Bluesky, Mastodon без ранжирования вовсе. Философия здесь простая: не решать за гражданина, а дать ему сменить конституцию одним кликом. Показательно, что институты начали это закреплять: европейский DSA обязывает крупные платформы предлагать хотя бы один вариант ленты, не основанный на профилировании; в России с октября 2023 года действуют поправки в закон «Об информации», обязывающие сервисы раскрывать использование рекомендательных технологий. Производственные силы, как водится, убежали вперёд, а отношения догоняют их с отставанием в десятилетие.
Заметьте: ни одна из этих альтернатив не требует прорыва в ML. Все они требуют решения, которое инженер не уполномочен принимать единолично — и которое поэтому принимается молча, по умолчанию, в пользу самой дешёвой философии.
6. Что с этим делать инженеру
Не «вставить правильную философию» — правильной нет, и любой, кто скажет обратное, продаёт вам Платона под видом оптимизации. Задача скромнее и конкретнее:
-
Сделать ценностный слой явным. Целевая функция и веса — публичный политический документ, а не внутренний конфиг. «Мы оптимизируем X, потому что считаем благом Y» — должно быть написано словами, не только в лоссе.
-
Ранжирование как конфигурация, а не как судьба. «Конституция ленты» — набор выбираемых политик: эгалитарная, экспертная, бриджинговая, хронология. Право на выход дешевле, чем спор о том, чья философия вернее.
-
Аудит ценностей, а не только качества. A/B не только CTR и retention, но и civic-метрики: доля пересекающего повестку контента, разнообразие источников, доля гнева. Что не измеряется — то и не оптимизируется, и наоборот.
-
Относиться к «нейтральности» как к заявлению, требующему доказательства. Нейтральность — это не отсутствие философии, а философия, которую спрятали.
Жильбер Симондон говорил, что трагическая ошибка — противопоставление техники и культуры: не техника порабощает человека, а человек своим утилитарным непониманием отчуждает технику — и через неё себя. Рекомендательная лента — ровно этот случай. Мы обращаемся с ней как с трубой для трафика, а она — институт, формирующий общую реальность.
Вместо вывода
Технология — это воплощённая философия. В ЭВМ овеществлён рационализм Нового времени: Декарт с его «ясно и отчётливо», Лейбниц с формальным языком, Буль с алгеброй логики. В коллаборативной фильтрации овеществлён эгалитаризм. В Community Notes — теория консенсуса через разногласие. Философия теперь пишется не только в книгах, но и в коммитах, и читается не только философами, но и ранжировщиками — просто последние чаще не знают, что читают философский текст.
Вопрос не в том, быть ли философии в коде. Она там уже есть. Вопрос в том, чья она будет — и сможем ли мы её обсудить до того, как она станет единственной.
В следующей статье цикла — об инаковости ИИ: почему его ценность не в человекоподобии, и почему «китайская комната» Сёрла промахивается мимо цели.
Какая теория справедливости зашита в вашу ленту — и кто её туда закоммитил? Интересно в комментариях: особенно если вы ранжировщик и можете показать, где в вашем лоссе лежит этика.
Автор: Georgii_L


