Мысли об одной продуктовой ошибке подавляющего большинства GenAI компаний

Мало кто имеет возможность обучить конкурентноспособную LLM с нуля. Тем не менее спрос на использование больших языковых моделей – огромный. Такая ситуация на рынке дает возможность организациям продавать доступ к LLM’кам и продуктам вокруг них на выгодных условиях. Чтобы извлечь максимум пользы, организации берут деньги с пользователей по двум разным моделям монетизации:

1. Подписочная. Хорошо подходит для обычного пользователя, за 20$ в месяц он получит доступ к почти безлимитному использованию использованию моделей. За эти деньги он сможет использовать больше токенов, чем если бы он их купил через Pay as you go план. Но в среднем, такой пользователь тратит в месяц меньше токенов, чем эквивалент 20 долларов, за счет этого корпорации получают дополнительную маржу

2. Pay as you go. Это единственная возможность использовать LLM в своих продуктах. Такая модель отличается от подписочной тем, что ты платишь не фиксированно в месяц, а за фактическое использование, платишь за токен.

В чем проблема разных моделей монетизации одного продукта?

Вот две основные причины:

1. Правообладатели LLM имеют нечестное конкурентное преимущество в виде льготных тарифов на использование API. Значит, они по дефолту сделают продукт привлекательнее для пользователя (либо ценой, либо квотой на использование) чем разработчики которые будут покупать токены по API.

2. Не смотря на огромный спрос на использование LLM, мы находимся на ранней стадии адаптации этой технологии. Значит, что способы применений языковых моделей не исследованы, поэтому одного факта нахождения полезного юзкейса LLM, должно хватить чтобы сделать бизнес. Но провайдеры LLM’ок копируют самые лучшие идеи использования себе внутрь продукта, тем самым канибализируя трафик на использования API своим другим продуктом – подпиской.

Исходя из этих двух пунктов можно сделать вывод:

Провайдеры LLM’ок хотят растить подписочный продукт больше чем продукт по продаже токенов по API, замыкая пользователя в своей экосистеме

Для бОльшего понимания проблемы, приведу аналогию. Рассмотрим зарождение интернета, и взглянем на компанию google, которая в тот момент времени предоставляла только услуги поиска. Представим на секунду, что google, пользуясь своим конкурентным преимуществом – бесконечным трафиком, заставлял бы своих разработчиков копировать самые популярные сайты, вместо того чтобы работать над поиском. В этой ситуации возникает два вопроса: Как развивался бы google? Как бы развивался интернет?

P.S Частично google так и сделал, например создал google news. Но в этом примере я хотел заострить внимание ^[1] на том, куда тратятся ресурсы талантливых разработчиков и внимание топ менеджеров: на разработку движка или на копирование чужих продуктов. Также хочу заметить что google начала копировать такие продукты гораздо позже чем в текущем мире провайдеры LLM’ок начали копировать продукты на основе LLM

Независимо от ответов на вопросы, могу сказать точно: пользователь в таком рынке не получил бы лучших решений, он бы получил решение компании google. С другой же стороны, почти все другие корпорации тоже не окажутся в плюсе, они потратят много ресурсов на разработку и продвижение, а по итогу будут вытеснены из-за случившейся монополии. Получается, что такой исход событий не выгоден никому за исключением google. Хотя и этот тезис спорный. Смог бы тогда google стать трилионной компанией? Я сомневаюсь, не маленькая вероятность что google бы задушил много хороших компаний которые появились исключительно за счет интернета, из-за чего бы весь интернет людьми бы воспринимался по-другому.

Теперь вернемся в реальность, и осознаем что идея монополизации юзкейсов языковых моделей губительна для индустрии. Исходя из всего вышесказанного, я выдвигаю гипотезу: За API должен платить не разработчик а пользователь. Тогда мы сможем держать рынок в здоровой конкуренции. И модель подписки на мой тезис ложится идеально: пусть пользователь платит за подписку, в которой получит лимиты на использование моделей, которые сможет использовать в приложениях, которые напишут сторонние разработчики. Вот почему такой подход к монетизации лучше текущего:

1. Корпорации смогут заниматься не дистрибьюцией своей продукции а ее улучшением.

2. Этот подход почти идеально ложится в изначальную миссию OpenAI: its mission is to ensure that artificial general intelligence benefits all of humanity. Изначально в OpenAI проинвестировали бешенные деньги, только потому, что это была организация, целью которой было не дать возможность корпорациям завладеть искусственным интеллектом ^[2], чтобы он работал на благо общества.

3. Соло фаундеры и небольшие команды смогут становится партнерами по дистрибьюции, не запариваясь над позиционированием своего продукта. P.S: Тут я предпалагаю что платить таким разработчикам будут корпорации по revenue share модели а для пользователей эти продукты станут частью экосистемы

4. Openai, Claude и gemini уже делают первые шаги по этому направлению (через gpt store ^[3] и аналогичные сервисы конкурентов). Но моя идея заключается в том чтобы расширить такой подход, делая возможным через условный openai connect давать возможность приложению использовать твою квоту месячной подписки. Моя идея хоть и похожа, но все же имеет фундаментальное различие с тем, что сейчас пытается сделать openai. Единственное отличие в том, что в моей задумке, мы зависим от LLM провайдеров только на уровне использования LLM, а не на уровне платформы дистрибьюции.

Почему такой переход сейчас невозможен?

Пользователь уже привык к многочисленным продуктам по 20 баксов в месяц, поэтому скорее всего если кто-то из провайдеров реализует мою идею, то, из-за сложившейся ситуации на рынке, его начнут использовать разработчики чтобы обеспечить свое приложение дешевыми токенами

Но это совсем не значит что в среднем компания будет продавать использование LLM’кой за меньшую цену, наоборот: можно добавлять новые тарифные планы, давать возможность пользователям докупать токены под специфичные модели (например как openai сделали с покупкой доп. квоты на codex).

TL;DR

Обладатели LLM переживают бурную стадию роста, но они совершили фундаментальную продуктовую ошибку ^[4]. В этой статье были преведены и разобраны тезисы, почему им надо отказаться от модели pay as you go в LLM продуктах, и представлена другая модель монетизации, которая поощряет создавать продукты на основе или с использованием LLM.

P.S. Если читатель дожил до этого момента, то подпишись на мой тг канал: https://t.me/superduperaichannel ^[5], он пока пустоват, так как я только начинаю, но уже есть интро и пост-рефлексия почему я писал эту статью 4 месяца.