llm.
Когда ИИ-агенту нужен MCP, а когда достаточно обычного API
Допустим, вы разрабатываете ИИ-агента, который проверяет статусы заказов. Для этого ему нужно обратиться к учетной системе, найти заказ по номеру и вернуть пользователю результат.
Qwen и локальные нейронки на Mac mini. Зачем и почему?
Зачем мне вообще локальная нейронка? Я объясню. Значит, есть какие-то задачи, когда в мои проекты или куда-то нужно получать от различных нейронок API-ключ, в некоторых ситуациях он стоит каких-то денег за запрос. В некоторых ситуациях, допустим, если подключать API Клода или ChatGPT, например, для изготовления презентаций или PDF-файлов, это может доходить до 3$ за файл, или если 10 запросов, это может стоить и 1$. Чтобы это всё делать бесплатно, и нужна локальная нейронка. Потому что API-ключ ты можешь выдавать себе сам, получается, и не нужно использовать какие-то сторонние облачные серверы для этого.
Создание анализатора Steam-тегов, работающего полностью в браузере, и тюнинг локальных LLM
Анализатор Steam-тегов, который работает прямо в браузере. Рассказываю, что пошло не так (много чего).Создание анализатора тегов Steam, работающего полностью в браузереРаботая над
Как среднему и крупному бизнесу выстроить мультимодельные AI-пайплайны через один ключ
Компании среднего и крупного размера уже не спорят, нужны ли языковые модели в операционке. Спорят о другом: с каким вендором заключать договор, какую модель выбрать «на всех» и как объяснить совету директоров, почему за один и тот же контур в этом месяце счёт в три раза больше, чем в прошлом. На практике узкое место чаще не в качестве модели, а в том, что компания пытается решить несколько разных задач одним инструментом и одним контрактом.
Я собрал конвейер из семи ИИ-агентов. В цеху задачу разбирает один
В прошлой статье я обещал рассказать, как семь агентов превращают голосовое сообщение из цеха в черновик задачи. Сел писать и понял, что обещал не совсем то, что есть на самом деле. Семь агентов в системе есть, я собрал их первыми. Но задачу, которую я надиктовываю в цеху, разбирает один маленький агент, а большой конвейер сейчас стоит без дела.
ASR для AI-разработки: как я замерял качество распознавания технических терминов
С ноября прошлого года я отстроил себе Dark Software Factory,
Путь к локальному LLM — модель которую я наконец-то реально использую каждый день
Путь к локальному LLM: как требвоания по ИБ и “дух авантюризма” привели меня к 125B-модели под столом - и почему агенты больше не просят облако
Браузерная игра за 2 часа 37 минут: как я разделил работу между Fable 5.2 и Opus 5.5
На днях обсуждали интервью HR‑директора крупной IT‑компании о том, что в сложных решениях она слушает ощущения в теле. В те же дни вышел Fable 5.2. Я решил проверить модель на этом поводе и собрать игру: вымышленная корпорация, собеседование и оффер по натальной карте.От первого сообщения до игры на своём домене прошло 2 часа 37 минут. Ниже разбор: как я делил работу между моделями, как устроен код, где модели ошиблись и что я поправил руками.Игра: Rдкс, собеседование в корпорацию. Проходится за 2–3 минуты, работает в браузере, ничего не отправляет на сервер.Что за игра
1 674 813 токенов в одном запросе: как я чистил контекст OpenWebUI, а потом вынес агента наружу
Input tokens exceed 922,000 tokens. Your messages resulted in 1,674,813 tokens — с этой ошибки началась история, которая растянулась на полгода. У нас self-hosted OpenWebUI, на нём внутренний ассистент для небольшой команды: файлы, документы, мелкие инженерные задачи. Сначала я писал фильтр, который вычищает из истории результаты инструментов. Потом понял, что латаю не то место, и вынес исполнение агента в отдельный сервис на OpenAI Agents SDK и Codex SDK. По дороге ещё споткнулся о потоковый Responses API.

