Почему я удалил ChatGPT после трёх лет использования

Реклама – это лишь симптом более серьёзной проблемы

I. Реклама в ChatGPT — это переход красной черты

На этой неделе OpenAI объявила, что начнёт тестировать рекламу в бесплатной версии ChatGPT. Это означает, что если я плачу – я в безопасности. Это также означает, что меня заставляют платить, чтобы быть в безопасности. Это также означает, что если я не могу или не хочу платить, инструмент, который я использовал в качестве помощника три года, будет заботиться о чужих интересах прежде моих.

Для меня это переход красной черты.

Я не размещаю рекламу в этом блоге именно по этой причине: как только вы оптимизируете что-то не для человека, с которым разговариваете, а для кого-то ещё, обмен скомпрометирован, как и ценность, которую вы предоставляете.

Пока что пользователи отреагировали в соцсетях похожим образом: некоторые угрожают уйти, другие указывают на очевидное лицемерие (Сэм Альтман говорил, что реклама – это «крайняя мера» в 2024 году), но большинство лишь пожмут плечами со смиренным принятием, которое мы выработали к деградации платформ. Это же реклама, да, это плохо, да, но реклама теперь везде, так зачем беспокоиться?

Станет ли это ударом, который сломает импульс OpenAI? Вряд ли. Уйдут ли пользователи толпами, или останутся, пожалуются, а потом забудут? Скорее всего. В любом случае, я не думаю, что реклама нанесёт смертельный удар, потому что смертельный удар принадлежит чему-то другому. Реклама – это всего лишь симптом иного рода болезни, той, которая не беспокоится ни о пользователях, ни о рекламе, ни о желании делать всё правильно.

Поворот OpenAI – это признание структурной неизбежности, замаскированное под весьма извиняющийся пресс-релиз:

Математика не сходится.

II. Экономика ИИ провальна

Экономика передовых ИИ-моделей несовместима с нейтральными, широкодоступными системами, которые нам обещали.

Это хорошо известно. Посчитайте, во что обходится предоставление доступа к ChatGPT сотням миллионов людей. Каждый запрос, использующий, скажем, GPT-5, стоит OpenAI денег (оценки разнятся, но даже оптимистичные цифры указывают на центы за запрос, задачи с рассуждениями стоят ещё дороже; даже пользователи Pro за $200/месяц не приносят прибыли). Умножьте эти центы на сотни миллионов ежедневных пользователей — большинство из которых не платят и не будут платить ничего – и вы сжигаете миллиарды ежегодно (OpenAI этого не отрицает).

Вот откуда берутся предупреждения о пузыре (является ли генеративный ИИ жизнеспособным бизнесом?): круговые сделки, которые не создают богатства, строительство на заёмные деньги, ИИ-компании, пытающиеся стать «слишком большими, чтобы рухнуть», – все делают ставку на то, что доход в конечном итоге догонит расходы (финансовый эксперт Себастьян Уоллаби только что опубликовал гостевое эссе в The New York Times, утверждая, что OpenAI закончатся деньги в течение следующих 18 месяцев). Если ИИ-бизнес не сработает, коррекция – это то, что мы видим: они превращают проблему индустрии/инвесторов в проблему пользователей. Если доход не может покрыть расходы, следует деградация. Реклама – это только первый шаг и, возможно, наименее коварный.

Вот финансовая ситуация. OpenAI привлекла впечатляющие объёмы капитала (~$58 миллиардов в общей сложности, беспрецедентный раунд на $40 миллиардов в прошлом году, последняя оценка – $500 миллиардов), но капитал – это не доход. В конечном счёте, кто-то должен платить за огромные капитальные и операционные расходы (обучение и запуск ИИ-моделей при аренде доступа к GPU у облачных провайдеров, таких как Microsoft). Вот тут-то мы, пользователи, и появляемся. Коэффициент конверсии из бесплатных в платных подписчиков следует предсказуемым паттернам в потребительском ПО; обычно это проценты с одной цифрой (у OpenAI это ~5% согласно последней информации: 35 миллионов платных подписчиков из ~800 миллионов еженедельных активных пользователей).

ИИ-компании могут это оптимизировать (и делают это), но они не могут нарушить степенные законы онлайн-рынков, как не могут нарушить гравитацию. Большинство пользователей останутся на бесплатных тарифах. Поэтому у OpenAI три варианта:

1. Поднять цены, ограничив доступ (дорогие тарифы существуют, но бесплатные тарифы не могут исчезнуть без краха роста, потому что рынок – это нестабильная олигополия, а не стабильная монополия).

2. Снизить затраты, ухудшив качество или переключившись на меньшие модели (это уже происходит под капотом; вот почему бесплатный тариф не видит активную модель в ChatGPT – она незаметно заменяется меньшей).

3. Найти другой источник дохода. Он же – реклама.

Когда OpenAI неоднократно заявляла, что будет прибыльной к 2030 году, речь никогда не шла о количестве платных пользователей (хотя они прогнозируют 2,6 миллиарда всего пользователей и 220 миллионов платных пользователей к 2030 году), а о доходе от рекламы.

Размещение рекламы в ChatGPT влечёт огромный риск оттока пользователей, негативной реакции, подрыва доверия, уязвимости перед конкурентами, ущерба бренду… но вряд ли это откровение, что продукт без рекламы лучше, чем продукт с рекламой (при прочих равных). Это все знают, так же как все знали, что Альтман передумает насчёт рекламы. Настоящее откровение вот в чём: если ведущая потребительская ИИ-компания с большим капиталом, большим числом платных пользователей и, возможно, большим техническим талантом, чем любой стартап в истории, смотрит на свои опции и приходит к выводу, что не может заставить экономику единицы продукта работать без рекламы, якобы «крайней меры», то кто может?

У других игроков есть другие пути отступления, но ни один из них не решает проблему. Google субсидирует ИИ через свой существующий рекламный бизнес, что означает, что коммерческие интересы уже встроены; мы просто принимаем их как должное. DeepMind захвачен Google и следует тем же стимулам. Anthropic фокусируется на корпоративном сегменте и пока избегает затрат на развёртывание потребительского масштаба из-за меньшей пользовательской базы, и поэтому, возможно, не нужно будет размещать рекламу в Claude в ближайшее время. У xAI есть деньги Илона.

Так что же это говорит нам о самой технологии? Помимо «пузырь!», это предполагает, что генеративный ИИ (большие языковые модели и чат-боты) может вообще не быть потребительским продуктом. Это может быть корпоративный инструмент, который потребители могут использовать в ухудшенных условиях, или продукт-приманка, субсидируемый компаниями с другими источниками дохода, или предмет роскоши для тех, кто может заплатить.

III. Непроверяемые обещания

Прежде чем я предскажу катастрофу, давайте посмотрим на пресс-релиз OpenAI.

Если вы прочитаете то, что они предлагают, вы заметите, что они дают некоторые приятные обещания и идут на компромиссы. Но в той степени, в какой эти оговорки приемлемы, их структурно сложно проверить. Дело не в том, что я сомневаюсь в намерениях Альтмана, но красивые слова, описывающие неподотчётную политику, — это не тот тип обещаний, которые я склонен принимать.

Рассмотрим этот пример: «Ответы в ChatGPT не будут подвержены влиянию рекламы». Это замечательно! Это также важно! И также непознаваемо.

Как вы узнаете, правда ли это или изменится ли это в какой-то момент? Вы не можете проверить обучающие данные. Вы не можете увидеть, какая дополнительная настройка была применена или какие поведенческие цели установлены. Вы не можете сравнить свой ответ с какой-то платоновской «неподверженной влиянию» версией (если только вы не платите; ждите твитов и мемов с сравнением платных и бесплатных ответов в ближайшее время). Вы должны доверять слову компании, и вы не можете проверить это доверие со временем.

Опять же, эта критика не о том, что Альтману не хватает откровенности, а о том, что вы никогда не должны ожидать, что коммерческая компания пойдёт против своих интересов. Слишком много денег можно заработать, позволяя людям предполагать сильную интерпретацию этого обещания («мой опыт использования ChatGPT не изменится! Ура!»), а затем использовать слабую интерпретацию («я не меняю ответы, я просто обучаю механизм маршрутизации модели ChatGPT выбирать мои предпочитаемые ответы»).

Вы действительно думаете, что ИИ-компания вроде OpenAI, способная обучить бота выиграть Математическую олимпиаду и всемирный конкурс по программированию, не может обучить того же бота максимизировать доход как функцию от рекламы таким образом, который разрушает пользовательский опыт, не вступая в конфликт с заявленными принципами? Это то, чем они зарабатывают на жизнь!

Даже при условии добросовестности, давление однонаправленное. Рекламодатель жалуется, что ChatGPT «несправедливо суров» к его категории продуктов. Изменит ли OpenAI что-то? Бренд угрожает прекратить расходы, потому что ChatGPT продолжает рекомендовать конкурентов. Отреагирует ли OpenAI? Это отражает обычный ход дел на платформах с рекламной поддержкой, поэтому можно с уверенностью предположить, что то же самое произойдёт здесь. OpenAI не пойдёт против себя.

Теперь рассмотрим обратный пример: почему в пресс-релизе ничего не сказано о том, как память чата будет использоваться для таргетинга рекламы?

Миллионы людей использовали ChatGPT для самых интимных разговоров. Вся эта информация – топливо для рекламы. Я писал об этом пару раз раньше: ваши мечты, ваши страхи, ваши психологические слепые зоны – теперь это данные для рекламной компании, чтобы создать идеальный крючок для продажи вам продукта, который вам не нужен. В статье Почему реклама в ChatGPT страшнее, чем вы думаете я писал:

Люди всегда беспокоились, что телефоны нас слушают; теперь они будут, буквально, внутри наших умов. Когда вы проявляете разочарование своим партнёром, ИИ поймёт, что вы — идеальная цель для приложений знакомств; когда вы выражаете беспокойство по поводу работы, ИИ отметит, что вы – цель для wellness-приложений, и так далее. Как вы думаете, кто будет основной демографической группой для таргетинга? Дети и подростки.

О, подождите, конечно, пресс-релиз также клянётся конфиденциальностью: «Разговоры приватны от рекламодателей». Но опять же, здесь есть сильная и слабая интерпретация. Сильная (пользователя): «Мои данные полностью в безопасности, никто не знает, как мне было грустно на прошлой неделе! Ура!» Слабая (OpenAI): «Реклама будет проявляться по-разному в зависимости от истории чата, даже если рекламодатели не знают, как именно».

Эта дихотомия слабой и сильной интерпретации — полезная рамка для понимания того, что происходит и чего ожидать в целом. OpenAI не нужно явно влиять на ответы или позволять рекламной компании видеть вашу историю; им нужно только делать крошечные корректировки того, что всплывает на поверхность, какие примеры ChatGPT выбирает показать вам, как он формулирует рекомендации и т.д.

«Мы не влияем на ответы» технически верно, но функционально вводит в заблуждение. Рекламные деньги живут в пропасти между тем, что пользователи предполагают, и тем, что компания фактически делает.

Итог: принимайте наименее благотворительную интерпретацию пресс-релиза, и вы будете правы. Предполагайте, что реклама пришла, потому что математика не сходится, и вы будете правы. Примите, что не все пользователи равны, и вы будете правы, что приводит меня к последнему пункту.

IV. Двухуровневая информационная среда

OpenAI создаёт отдельные информационные среды на основе платёжеспособности. ИИ-богатые и ИИ-бедные – это теперь реальность. Я писал об этом подробно в статье ИИ-богатые и ИИ-бедные, а также в эпилоге к Почему реклама в ChatGPT страшнее, чем вы думаете. Из первой статьи, где я ввёл этот термин:

С этого момента – и впервые с тех пор, как ИИ был утверждён как потребительская индустрия – эта технология разрежет социальную территорию пополам бездонной пропастью между ними, и в результате возникнут два социальных класса.

Я говорил о дорогих ИИ-тарифах (до $2000/месяц; компании пока остановились на $200/месяц), но это в равной степени применимо к наличию рекламы в бесплатном тарифе.

Платные пользователи получают «чистую» версию без рекламы. Бесплатные пользователи получают деградированную версию. Со временем это разделение создаст асимметрии. Платный пользователь платит за сохранение своих интересов, бесплатный пользователь «платит» в форме того, что интересы других ставятся выше его собственных. Вам нужна новая машина? Платный пользователь получает ответ согласно персонализированным спецификациям; бесплатный пользователь получает три или четыре предложения Volkswagen, прежде чем понимает, что OpenAI заключила сделку в 2024 году с немецким автопроизводителем. Вы чувствуете тревогу и просите способы справиться с ней. Платный пользователь получает техники когнитивно-поведенческой терапии, дыхательные упражнения, возможно, предложение поговорить с кем-то. Бесплатные пользователи получают ссылку на Headspace.com или InsightTimer.com.

(Представьте, если бы абзац выше был сообщением ChatGPT: как вы можете сказать, заплатили ли эти приложения для медитации за то, чтобы быть выбранными в качестве примеров, или ChatGPT выбрал их согласно опросам или другим псевдонейтральным метрикам? Вы не можете.)

Иерархия ИИ-богатых против ИИ-бедных – это не гипотетическое размахивание руками о неравенстве. Есть множество доказательств из поиска и социальных медиа, что это происходит. ИИ-помощники не будут освобождены от этой динамики только потому, что они разговорные, а не алгоритмические; напротив, верно обратное: степень, в которой будут существовать пользовательские опыты, зависящие от тарифов, будет больше, чем в любой другой категории программного обеспечения. И учитывая, что люди сейчас используют чат-ботов для всего, степень, в которой эти различия повлияют на их жизнь, также будет больше.

Реклама внесёт небольшие, постоянные искажения в то, как представляется информация, какие источники приоритизируются, какие решения предлагаются первыми. Эти искажения будут почти невозможно обнаружить на основе отдельного взаимодействия, но могут быть весьма значительными в совокупности. Вот как накапливается бедность ИИ-бедных. И если вы что-нибудь знаете о силе сложных процентов со временем, вы знаете, что это серьёзная проблема.

Платные тарифы – это контрольная группа в остальном неуспешном всемирном социальном эксперименте. Бесплатные тарифы, скоро покрытые рекламой, – это крысы в лабиринте.

V. Последняя мысль

ChatGPT уже не тот, что раньше. Есть отличные альтернативы (и Claude, и Gemini лучше, на мой взгляд). Подобострастие не решено, и в Claude его значительно меньше. OpenAI сосредоточила свою энергию и ресурсы на эксплуатации популярности бренда (что справедливо), а не на сохранении технического превосходства. Сэм Альтман – ненадёжный лидер (он говорит одно, делает другое). Компания создала генератор мусора (Sora), будет разрешать порно и теперь разместит рекламу в вашем супе. ChatGPT уже не тот, что раньше, и он больше не является незаменимым инструментом в моём арсенале.

Я не прошу вас отказаться от этого социального эксперимента; это ваш выбор. Что касается меня, что я собираюсь с этим делать? Я уже сделал: впервые с ноября 2022 года я удалил ChatGPT.

История с OpenAI показывает фундаментальную проблему: когда технологическая компания ставит интересы рекламодателей выше интересов пользователей, страдает качество продукта. Но это не означает, что от ИИ-инструментов нужно отказываться полностью.

Важен подход: ИИ должен оставаться инструментом, который служит вам, а не превращаться в платформу, на которой вы – товар для рекламодателей.

BotHub открывает доступ к современным AI-моделям без барьеров!

Для доступа к сервису не требуется VPN, и можно использовать российскую карту.

По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе прямо сейчас!

Помните: ИИ – это инструмент. И как любой инструмент, он должен работать для вас, а не наоборот.