llm.
Как мы обучаем обычных сотрудников использовать ИИ (и зачем)
Примерно полтора года назад мы в компании начали проводить еженедельные воркшопы по ИИ. Или, как мы сами их называем, ИИ‑кружки. Сначала для разработчиков, а позже — для «чайников» не‑разработчиков тоже. Как, зачем, и к чему это в итоге привело — в статье.
Я прогнал топ VRAM-калькуляторов для LLM — все ошибаются в одном и том же
Я прогнал топ выдачи Google по «llm vram calculator» — от самого навороченного до однокнопочных. Все ошибаются в одном и том же: ни один не моделирует, что движок резервирует почти всю память под пул заранее, а не раздаёт её под KV по мере запросов. Ответ «сколько запросов влезет» из-за этого всегда мимо.Наивное большинство спотыкается ещё и о геометрию KV: на DeepSeek-V2-Lite обычная формула завышает память почти на порядок (в 7–11 раз). Разбираю обе ловушки и сверяю числа с живым vLLM.Ошибка №1: движок забирает память заранееПишете две строки:from vllm import LLM llm = LLM("meta-llama/Meta-Llama-3-8B-Instruct")
Как мы превратили правила команды разработки в инструкции для LLM-агента
Привет, Хабр! На связи команда разработки Just AI. Сегодня расскажем, как мы автоматизировали часть задач в процессах разработки с помощью LLM-агента. Не генерацию функций и не написание кода по промпту — с этим кодинг-ассистенты уже неплохо справляются. Нас интересовало другое: что происходит с задачей до и после того, как разработчик закончил писать код.
Как с помощью graph RAG добиться многоходовых рассуждений от LLM с 2B весов
Пару недель назад YouTube подкинул мне пятиминутный ролик с небольшого канала, где автор демонстрирует преимущества RAG на графах над обычным RAG поверх корпуса текстов.Пример довольно простой. LLM должна ответить на вопрос: “Кто должен подписать возврат клиенту на 800 фунтов в марте?”. Ответ, естественно, содержится в предоставленных текстах, но для того, чтобы его добыть, нужно уметь в multi-hop reasoning, т.к. необходимая информация лежит в 3х разных местах:инструкциях по возврату средствсписке сотрудниковсообщениях электронной почтыДля правильного ответа (
Архитектура современных ИИ-агентов: собираем прототип за один вечер
За последние полгода вышли сотни материалов об ИИ-агентах. Особенно много говорят про OpenClaw и Hermes. Я изучил, пожалуй, добрую половину из них, протестировал сам и хочу поделиться выводами.
Как мы научили ИИ читать корпоративные регламенты: от наивного RAG до измеримого pipeline
Почему корпоративный RAG - это не «загрузить документы в векторную базу»В любой большой компании есть люди, которым регулярно пишут:«А как у нас оформляется постоплата?»«Кто согласует риски в сделке?»«За сколько дней нужно оформить командировку?»
Как я держу документы и инструкции для агентов в актуальном состоянии
Как разложены документыОдин огромный файл в корне плохо обновляется точечно. Слои такие.На сервере лежит общий договор для всех агентов на машине (AGENTS.md и соседние правила рантайма). В репозитории проекта — свой AGENTS.md и операционный гайд: куда смотреть, какие инварианты нельзя ломать. В docs/ — потоки (FLOWS), известные проблемы и короткие записи «что искать, где лежит, чего не делать». Отдельно скилы: пошаговые сценарии на повторяющиеся действия, не вторая простыня архитектуры.
