- BrainTools - https://www.braintools.ru -
В Beget Cloud появился ИИ‑шлюз, через который можно подключать большие языковые модели: Claude, GPT, GLM, DeepSeek и другие. Подключение идёт через один OpenAI‑совместимый API, оплата — по токенам, ключи управляются в панели. Своя AI‑инфраструктура для этого не нужна. Ниже расскажем, как работает шлюз, для каких задач он подойдёт и как отправить первый запрос.
Чтобы встроить LLM в продукт или внутренние процессы, обычно приходится решать много сопутствующих задач. Нужно заводить аккаунты у нескольких провайдеров и хранить их ключи. Под каждую модель пишется своя интеграция, а расходы приходится считать вручную. Если модели разворачивать самостоятельно, добавляется ещё и инфраструктура.
ИИ‑шлюз убирает эту прослойку. Вы выбираете модель в панели, создаёте ключ и отправляете запросы через стандартный OpenAI‑совместимый интерфейс. Чтобы сменить модель, достаточно поменять один параметр в запросе — код интеграции переписывать не нужно.
Один API для разных моделей. Интеграция одна, модели можно переключать под задачу.
Совместимость с OpenAI. Подойдут готовые SDK, библиотеки и инструменты, которые уже работают с OpenAI API.
Управление в панели. Выбор моделей, создание и отзыв ключей — всё в одном месте.
Контроль расходов. Для каждого API‑ключа можно задать месячный лимит.
Вот некоторые из них:
claude-opus-5.5
claude-sonnet-5.5
gpt-6.1-sol
gpt-6-astra
glm-5.3
deepseek-v4-flash
Список мы регулярно пополняем. Актуальный перечень с ценами есть на странице сервиса [1] и в панели управления.
Поскольку API совместим с OpenAI, подойдёт официальный SDK. Нужно только указать адрес шлюза:
from openai import OpenAI
client = OpenAI(
api_key="ВАШ_КЛЮЧ",
base_url="https://api-llm.beget.com/v1/",
)
response = client.chat.completions.create(
model="claude-sonnet-5.5",
messages=[
{"role": "user", "content": "Сделай краткое саммари этого текста: ..."}
],
)
print(response.choices[0].message.content)
То же самое через curl:
curl https://api-llm.beget.com/v1/chat/completions
-H "Authorization: Bearer $API_KEY"
-H "Content-Type: application/json"
-d '{
"model": "deepseek-v4-flash",
"messages": [{"role": "user", "content": "Привет!"}]
}'
Сравнить ответы разных моделей на одном запросе можно в цикле:
for model in ["claude-opus-5.5", "gpt-6.1-sol", "glm-5.3"]:
r = client.chat.completions.create(
model=model,
messages=[{"role": "user", "content": "Объясни, что такое RAG, в двух предложениях"}],
)
print(f"--- {model} ---n{r.choices[0].message.content}n")
Боты и ассистенты. Поддержка клиентов, внутренние помощники, боты в мессенджерах.
AI‑функции в продукте. Генерация текста, саммари, ответы на вопросы, обработка пользовательского контента.
Автоматизация. Классификация и разбор данных в скриптах и пайплайнах. Для потоковых задач подойдут быстрые и недорогие модели вроде deepseek-v4-flash.
Прототипы и MVP. Гипотезу можно проверить за вечер без отдельной инфраструктуры.
Сравнение моделей. Под каждую задачу выбирается своя LLM, способ интеграции при этом не меняется.
Оплата идёт по факту использования: считаются входящие и исходящие токены, тариф зависит от модели. Деньги списываются с баланса аккаунта. Чтобы расходы не вышли из‑под контроля, для ключа можно задать месячный лимит.
В ближайших планах:
Подробная статистика расходов с разбивкой по ключам и моделям.
Песочница для тестирования моделей. В ней можно будет сравнить модели в изолированной среде до того, как встраивать их в рабочие процессы.
Откройте раздел ИИ-шлюза в панели управления [2].
Выберите модель и создайте API-ключ.
Отправьте первый запрос, например из кода выше.
Вопросы и обратную связь ждём в комментариях. Ещё вы можете связаться с нами [3] напрямую, следить за новостями в Telegram‑канале [4] или обсудить ИИ‑шлюз и другие продукты Beget Cloud в нашем чате [5].
Автор: beget_com
Источник [6]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/37165
URLs in this post:
[1] на странице сервиса: https://beget.com/ru/cloud/ai-gateway?utm_source=habr&utm_medium=blog&utm_campaign=ai_gateway&utm_content=site_cloud_ai
[2] панели управления: https://cp.beget.com/cloud/ai?utm_source=habr&utm_medium=blog&utm_campaign=ai_gateway&utm_content=cp_cloud_ai
[3] связаться с нами: https://beget.com/ru/contacts?utm_source=habr&utm_medium=blog&utm_campaign=ai_gateway&utm_content=contacts_link
[4] Telegram‑канале: https://t.me/beget_official
[5] чате: https://t.me/beget_chat
[6] Источник: https://habr.com/ru/companies/beget/news/1091154/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1091154
Нажмите здесь для печати.