LiteLLM.

Claude Code без Anthropic: заводим агента на GLM-5.3 и Qwen через свой шлюз и собираем грабли

Из Беларуси Claude Code официально не работает: Anthropic не обслуживает регион, а белорусской картой не оплатить ни подписку, ни API. Мы делаем ZuBrIQ — шлюз к моделям с оплатой в BYN — и за последние месяцы заставили Claude Code, Codex и OpenCode работать на открытых моделях — GLM-5.3 у провайдера и Qwen3.8-27B на собственных V100. Ниже — схема и пять граблей, на каждую из которых мы наступили сами.Зачем вообще подменять модель под Claude CodeClaude Code — хороший агент, и он умеет ходить не только к Anthropic. Достаточно ANTHROPIC_BASE_URL

продолжить чтение

В релизе LiteLLM 1.107.0 обнаружены инфостилер и бэкдор

21 октября 2026 года релизный конвейер LiteLLM был скомпрометирован. В течение нескольких часов в PyPI, Docker Hub и GitHub Container Registry (GHCR) распространялась версия 1.107.0 с инфостилером и бэкдором. Проект удалил вредоносные артефакты и опубликовал разбор атаки. Об инциденте также писал «Хакер», а на Хабре

продолжить чтение

Галлюцинации недели: Взломать можно было всех и сразу, от WordPress до Яндекс Станции

продолжить чтение

ИИ-секретарь за $77 в месяц: 88% ответов даёт DeepSeek, а три четверти денег съедают 7% запросов к Opus

Я делаю ИИ-секретаря Лизу Петровну. Это бот в Telegram и MAX: пишешь ему как человеку, текстом, голосом или фото, а он решает задачу сам или отдаёт её одному из внутренних агентов. С 30 мая ей написали 8568 запросов 118 человек.За последние 30 дней языковые модели для всех агентов обошлись в $77 (это только LLM, без генерации картинок и видео). Расскажу, как устроен выбор модели, почему почти все ответы даёт дешёвая модель, как работает память, что люди на самом деле просят у ИИ-секретаря и где он до сих пор ошибается. Всё с цифрами с прода.Задача

продолжить чтение

Маршрутизация ИИ‑моделей: когда одной модели недостаточно

продолжить чтение

От десятка подписок к единому шлюзу LiteLLM: что пошло не по плану

Привет! Я Владимир Мокроусов, сисадмин в группе компаний «Синтека». Мы создаем софт для строительной отрасли и активно используем в работе ИИ-модели. 

продолжить чтение

Свой инференс для 25 разработчиков: 452:1, KV‑пул и почему это не экономит денег

Все цифры сняты с работающего стенда: потребление токенов — за календарную неделю по данным шлюза, метрики движка — кумулятивно за период аптайма (11 426 обработанных запросов). Продолжение — про выбор модели по замерам, а не по бенчмаркам — будет отдельной статьёй.Для кого эта статьяДля тех, кто держит или собирается держать LLM внутри контура: тимлидов, DevOps, архитекторов. Здесь конфиги, цифры и грабли, а не введение в трансформеры.

продолжить чтение

Как собрать AI-контур на VPS: подписки ChatGPT и Claude, OmniRoute, LiteLLM и разработка без VPN

Думаю, практически каждый разработчик из России рано или поздно задавался вопросом: можно ли наконец перестать плясать с VPN и прокси, чтобы просто пользоваться нейросетями — и в собственных проектах, и непосредственно во время разработки?

продолжить чтение

Что такое LiteLLM и для чего его едят

Если вы или ваша команда уже используете LLM или планируете интегрировать их в проект, то наверняка у вас возникал вопрос, как лучше и красивее написать такой интерфейс, который мог бы общаться с разными моделями. И на такой вопрос уже есть ответ.

продолжить чтение

Завод ИИ-агентов в одном терминале через оркестрацию

С детства я смотрел фильмы, где люди разговаривают с компьютерами, и каждый раз думал — ну когда уже. Когда можно будет сказать машине что делать, а она сделает.

продолжить чтение

12