Активировать мало — недостаточно: почему AI-роутеру могут понадобиться альтернативные стратегии
В предыдущем материале я рассказывал, как использую генеративные модели в роли оппонентов: прошу их не подтверждать первое решение, а искать условия, при которых оно развалится.Из этой практики вырос вопрос, который уже не относится к организации моей работы.Почему от самой AI-системы мы так часто ожидаем одного ответа? Почему она должна как можно раньше выбрать единственный маршрут, если задача допускает несколько стратегий, цена ошибки неизвестна, а лучшим действием иногда оказывается отказ от действия?
Я прогнал топ VRAM-калькуляторов для LLM — все ошибаются в одном и том же
Я прогнал топ выдачи Google по «llm vram calculator» — от самого навороченного до однокнопочных. Все ошибаются в одном и том же: ни один не моделирует, что движок резервирует почти всю память под пул заранее, а не раздаёт её под KV по мере запросов. Ответ «сколько запросов влезет» из-за этого всегда мимо.Наивное большинство спотыкается ещё и о геометрию KV: на DeepSeek-V2-Lite обычная формула завышает память почти на порядок (в 7–11 раз). Разбираю обе ловушки и сверяю числа с живым vLLM.Ошибка №1: движок забирает память заранееПишете две строки:from vllm import LLM llm = LLM("meta-llama/Meta-Llama-3-8B-Instruct")
Как я держу документы и инструкции для агентов в актуальном состоянии
Как разложены документыОдин огромный файл в корне плохо обновляется точечно. Слои такие.На сервере лежит общий договор для всех агентов на машине (AGENTS.md и соседние правила рантайма). В репозитории проекта — свой AGENTS.md и операционный гайд: куда смотреть, какие инварианты нельзя ломать. В docs/ — потоки (FLOWS), известные проблемы и короткие записи «что искать, где лежит, чего не делать». Отдельно скилы: пошаговые сценарии на повторяющиеся действия, не вторая простыня архитектуры.
Как мы автоматизировали перевод технической документации через инструменты вокруг модели
Привет! Меня зовут Глеб Смольяков, я инженер-программист в DevRel-отделе Битрикс24.DevRel-команда работает с разными задачами, которые помогают разработчикам и пользователям быстрее разобраться в возможностях продукта. Одна из таких задач — улучшение документации и её перевод на другие языки.В статье расскажу, как мы сделали сервис DocFlow, который автоматизирует перевод документации с русского на английский. Главная часть статьи — о том, как мы создавали инженерный слой для аккуратной точной работы.СодержаниеЗачем понадобился сервис перевода DocFlow
Как я использую генеративные модели как оппонента в нескольких AI-проектах
На бумаге задача выглядела почти обидно просто: камера видит салон автобуса, модель распознаёт людей, на выходе появляется число вошедших и вышедших пассажиров.Но чем ближе мы подходили к реальному рейсу, тем меньше задача была похожа на обычную детекцию. Оказалось, что сначала нужно договориться о времени, остановках, идентификаторах и даже о том, что именно считать событием входа. Модель может правильно увидеть человека — и всё равно выдать неправильный бизнес-результат.
Как использовать облачные AI модели внутри контура компании и не получить по шее от ИБ?
Или пример того, что будет, если роль пакетного менеджера доверить AI.Короткий ответ — используйте шаблоны.Шаблон
Cohere выпустила Parse 5: модель извлекает данные из сложных документов в Markdown
Компания Cohere выпустила коммерческую мультимодальную модель Parse 5
«Аниме-завод» открыт: выкладываю код конвейера, который сам режет эпизоды на Shorts
За последнее время я написал три статьи про систему, которая превращает длинные видео в вертикальные клипы: общий обзор «аниме-завода», разбор виртуальной камеры с face tracking и рассказ о том, почему связка «транскрипт + LLM» почти всегда даёт мусор.Комментарий, который повторялся под всеми тремя, был один и тот же: «покажи код».Показываю.→ github.com/ialakey/shorts-factory
Как запускать Python‑функцию с её зависимостями — и не засорять окружение проекта
Два проекта вызывают одну Python‑функцию, чьи зависимости установлены в отдельном окружении
