Почему fallback между LLM может сломать семантику ответа
Когда проектируешь обычный backend, fallback обычно воспринимается как довольно понятный механизм.Есть основной upstream. Если он недоступен, переключаемся на резервный. Если один pod умер, запрос обслужит другой. Если один PostgreSQL read replica недоступен, читаем с другой. Если основной endpoint партнёра отвечает ошибкой, можно попробовать резервный.В большинстве таких случаев мы предполагаем, что резервный исполнитель реализует тот же контракт.С LLM это предположение начинает ломаться.Две модели могут принимать один и тот же JSON, возвращать JSON по одной и той же схеме и при этом фактически выполнять задачу по-разному.
Jev, Laya и Gemini Flash на трёх задачах классификации в поддержке
За неделю я прогнал три задачи из своего прода через модели, которые только выбирают из списка, ставят оценку по шкале или возвращают вероятность. Jev как закрытая, Laya как опенсорсный аналог, плюс gemini flash lite как третий кандидат. Две задачи из трёх они закрывают, третью не закроет ни одна, и понять это можно было до всякого замера.Меня интересовал не обзор моделей. Хотелось рамки: какие задачи вообще имеет смысл отдавать такому инструменту. Ниже три замера на живом трафике, шесть признаков подходящей задачи и раздел с оговорками, где я честно перечисляю, чего эти цифры не доказывают.
Почему LLMProvider недостаточно: проектируем AI Gateway для SaaS на Go
Когда начинаешь делать AI-фичу в backend-приложении, первая архитектурная идея обычно выглядит очень здраво: спрятать конкретного провайдера за интерфейсом.Что-то вроде:type LLMProvider interface { Generate(ctx context.Context, req Request) (Response, error) }Сегодня за ним OpenAI-compatible API, завтра другой провайдер, послезавтра локальная модель. Код бизнес-логики от конкретного SDK не зависит, значит архитектурная задача вроде бы решена.
Почему юридический AI‑сервис нельзя строить как обычный чат: проектируем case‑first SaaS на Go
Несколько месяцев назад мне понадобилось заключить договор с водоканалом. Казалось бы, обычная бюрократическая задача: отправил документы, дождался ответа, подписал договор. На практике всё оказалось значительно веселее — ответа долго не было, сроки шли, а что делать дальше, было не совсем понятно.Юриста у меня не было, зато был AI. Я загрузил документы, описал ситуацию и начал разбираться, какие вообще есть варианты дальнейших действий. В итоге с помощью AI подготовил несколько обращений и жалоб, после чего ситуация сдвинулась с места и договор со мной всё‑таки заключили.
Зачем платить за SaaS, если его код лежит на GitHub: история Postiz
Postiz: бесплатный код и платный SaaSPostiz помогает планировать публикации в соцсетях. Его можно запустить на своём сервере или оформить подписку на облако. По README, на момент исследования обе версии давали одинаковые возможности.
6 бесплатных AI API‑шлюзов: модели, лимиты и реальные RPM
Я проверил бесплатные AI API‑шлюзы реальными запросами: доступные модели, стартовые бонусы и ограничения RPM. Ниже — результаты тестов на момент публикации. VyceAIСайт: https://vyceai.comAPI: OpenAI‑compatibleBase URL: https://vyceai.comСписок моделей: GET /v1/modelsChat: POST /v1/chat/completionsПосле регистрации сервис начислил $40 внутреннего API‑баланса. Для доступа к моделям нужно привязать Discord.
Perfscale news #9. GPU, LLM, Docker images
Приветствую, любители нагрузки. Для истории прошлые выпуски:Новости Perfscale № 1Perfscale news #2: Fix Protocol, Magic metrics и MCPperfscale news #3 Websocket, Inference, NPMPerfscale news #4. GRPC, Fixed Triggers, Child ProcessPerfscale news #5. SQL, Thresholds, неработающие Linked AccountsPerfscale news #6. GraphQL, поддержка Import, и метрикиPerfscale news #7. Fix Import, SOAP, and more HTTP metrics
SaaS, который не сделаешь с помощью вайбкодинга: 50 000 пользователей и миллионная выручка
Всем привет! Это Денис Сметнев. Я тут рассказываю про вайбкодинг, про то, как один человек теперь может заменить команду, и как узкое горлышко переместилось из разработки в сторону маркетинга. При этом я наставник у ребят, которые пилят SaaS, но не справились бы без разработчиков. Речь про Reels-Boss — сервис, который нарезает длинные видео на вирусные вертикальные куски для Shorts, Reels и TikTok. Рассказываю, как ребята втроем обслуживают 50 000 клиентов и почему вайбкодеры не справятся с таким сервисом.Контент-завод, который стал стартапом
Бесплатные API к Claude, GPT, DeepSeek и другим моделям: 6 AI-роутеров с бесплатным доступом
Все сервисы и лимиты проверялись 16 августа 2026 года. Условия бесплатных тарифов могут меняться. Получить API-доступ к современным языковым моделям можно не только напрямую у крупных провайдеров. Существуют сторонние роутеры, которые дают бесплатные модели, ежедневные лимиты или стартовые кредиты.Я собрал 6 таких сервисов и посмотрел, что именно получает новый пользователь после регистрации: какой баланс начисляют, какие модели доступны, какие ограничения действуют и можно ли действительно отправлять запросы через API.В подборку вошли OrcaRouter, TeamoRouter, AgentRouter, Token Harbor, NaraRouter и FreeRouter.OrcaRouter
Как я автоматизировал подбор кандидатов с помощью Telegram‑бота и ускорил массовый найм в 3 раза
Все началось с отпуска HR.Нужно было срочно нанять сотрудников, а времени на десятки одинаковых переписок просто не было. Поэтому я написал небольшой Telegram‑бот для первичного отбора кандидатов.Но каждая решенная проблема открывала следующую. Сначала появились анкеты и скоринг. Потом автоматическая запись на собеседования. Затем аналитика, триггерные сообщения, LLM, база знаний и собственный визуальный конструктор сценариев.Если вы занимаетесь подбором персонала, автоматизируете HR‑процессы или разрабатываете Telegram‑ботов, возможно, мой опыт поможет избежать нескольких ошибок и сэкономить время.
