Мы с тобой открываем свою OpenAI: модель за $5,6 млн, компания за $34 млрд в год, и обучение тут самая дешевая строчка
Итак, мы с тобой открываем свою OpenAI.Решение принято, причем мной, и возможности отказаться у тебя нет. Учредительные документы я подал, домен купил, тебя записал техническим директором. Долю, так и быть, поделим поровну.Обязанности такие: ты отвечаешь за то, чтобы модель обучилась, я за то, чтобы деньги не кончились раньше. Забегая вперед: с моей частью будут проблемы.План простой и красивый, как все планы до первой таблицы. Китайцы обучили DeepSeek-V3 за 5,576 миллионов долларов и сами написали это в техотчете. Значит, нам нужно примерно столько же плюс аренда офиса. Дальше подписки, API, инвесторы, интервью в подкастах.
Как выбрать между облаком, арендой GPU и своим железом для LLM-систем
В этой статье разберём, во сколько обходится LLM-сервис при нагрузке в 100 000 диалогов в день и где проходит граница окупаемости разных вариантов. Посмотрим на стоимость облачных API, аренды GPU и собственного железа, а заодно прикинем, какая инфраструктура нужна, чтобы всё это выдержало боевой трафик.Исходные допущенияПредставим продукт, в котором пользователи активно общаются с моделью:100 000 диалогов в день.Каждый диалог — это 100–300 токенов от пользователя.На один диалог модель отвечает примерно тремя сообщениями.В среднем получаем:
