Маршрутизатор языковых моделей изнутри. От вектора задачи до судьи и обучения на отзывах
Ранее мы рассказывали о библиотеке FAIRouter, которая направляет запрос к наиболее подходящему исполнителю. Пока исполнителями могут быть только языковые модели (LLM), но в дальнейшем мы планируем добавить инструменты и агентов. В той статье вопрос о том, как именно маршрутизатор решает, кому отдать задачу, был затронут лишь вскользь. Поэтому было принято решение посвятить математике отдельную статью и разобрать ее по шагам: от признаков задачи до обучения на отзывах.
Как мы перестали хардкодить модели: effort-маршрутизация, авто-выбор сложности, фолбэки и лимиты расходов
Самая дорогая строчка в микросервисе с LLM — model="gpt-4o".
Роутер, который чинит себя сам: OpenWrt + sing‑box, раздельная маршрутизация и сторож
ЗачемЗадача обычная: дома всё должно просто работать. Российские сервисы — банки, госуслуги, маркетплейсы — открываются напрямую с домашнего IP, а всё остальное идёт через VPN. На каждом устройстве ничего не настраиваем: ни на телевизоре, ни на телефонах гостей.
Технологические тренды в управлении автопарками в 2026
Вольный перевод отчета 2026 Fleet Technology Trends Report от Verizon ConnectVerizon Connect опубликовал шестой ежегодный отчет о технологических трендах в управлении автопарками — «2026 Fleet Technology Trends Report». Документ построен на опросе профессионалов отрасли и показывает, какими технологиями пользуются автопарки, как именно их применяют и какой результат получают. Ниже — разбор ключевых данных отчета с комментариями о том, что из этих наблюдений применимо к российскому рынку, а что остается спецификой исходного — американского.Контекст: распространение ИИ и давление инфляции
Оптимизация маршрутов доставки заказов маркетплейса или как мы победили в E-CUP 2025
Хабр, привет! Недавно завершилось ML-соревнование E-CUP 2025. Наша команда из X5 Tech заняла первое место в треке «Логистика: автопланирование курьеров», где было нужно оптимизировать время, затрачиваемое курьерами на доставку 20 000 заказов. В статье расскажем про подходы, которые использовали для решения этой задачи. Посмотрим, во сколько раз можно сжать JSON с матрицей расстояний. Какой код мы использовали для быстрого решения задачи TSP с помощью LKH-3. Обсудим, на что обращать внимание при кластеризации заказов.Постановка задачи
Что такое маршрутизатор LLM?
Большие языковые модели (LLM) стали основой современных ИИ-продуктов, обеспечивая работу всего – от чат-ботов и виртуальных ассистентов до исследовательских инструментов и корпоративных решений. Но LLM различаются по сильным сторонам, ограничениям и стоимости: одни лучше в рассуждениях, другие - в креативе, коде или работе со структурированными запросами. Здесь и нужен маршрутизатор LLM.
