Я не знаю Rust. Что меняется в разработке, когда код пишет ИИ
Я – Мигаль Денис, руковожу командой EMM в MAGNIT TECH. Последние годы больше занимаюсь архитектурой и командой, чем сам пишу код. Здесь решил проверить, смогу ли с помощью продвинутой ИИ-модели разобраться с совершенно незнакомым Rust и довести сложный инфраструктурный компонент на 300.000 устройств до серьёзных испытаний. Причём так, чтобы за результат не было стыдно перед разработчиками.Внутри статьиПочему понадобился свой прокси и как план Б стал планом АОт чата до готовности к нагрузочным испытаниям
Ваш запрос очень важен для нас: Gateway API Inference Extension в модуле alb Deckhouse Platform
В августе мы писали о модуле alb — реализации Gateway API на Envoy в Deckhouse Platform. Теперь модуль поддерживает объект InferencePool из Gateway API Inference Extension. Через тот же шлюз, что публикует обычные приложения, можно отдавать и модели, а выбор реплики передать компоненту, который получает метрики её загрузки.Всем привет! Я Пётр Антонов — руководитель продуктовых направлений «Сети и провайдеры для частной инфраструктуры» в команде Deckhouse. Рассказываю, почему round-robin не подходит для запросов к модели, как устроены InferencePool
Укрощение GPU в Kubernetes: динамический шеринг мощностей
Управление GPU в Kubernetes переросло стадию, когда было достаточно простого проброса устройства в контейнер. Сегодня инфраструктура для ИИ-нагрузок требует такой же гибкости, как и для стандартных микросервисов: мы должны уметь делить ресурсы, масштабировать их и эффективно утилизировать каждый терафлопс, не переплачивая за простаивающее «железо».
Замена Lens, которую целиком написала модель: что получилось и где мы проигрываем
Зачем ещё один Kubernetes‑клиентSextant — десктопный клиент Kubernetes на Rust и Tauri 2: всё, что вы делали в Lens, без аккаунта, сервера и телеметрии, плюс встроенный MCP‑сервер для AI‑агентов. Проект открытый (MIT или Apache-2.0), сборки есть для Linux, macOS и Windows.Меня зовут Юрий Потемкин, я CTO в REES46 и 25 лет в IT. Kubernetes для меня — ежедневная работа: высоконагруженные системы на 120 тысяч запросов в секунду и несколько кластеров одновременно. Lens долго был открыт у меня с утра до вечера, и за это время накопилось три боли.
AIOps: наш опыт внедрения HolmesGPT на трёх проектах
Это пример алерта и его разбора Holmes в Slack.
Kubernetes как ядро Linux, часть 1: собираем тулкит для создания дистрибутивов K8s и универсальный пакетный менеджер
Этот цикл статей стал результатом попытки посмотреть на Kubernetes как на ядро Linux: что, если K8s будет аналогом Linux Kernel и инженеры начнут работать не с ванильным Kubernetes, а с готовыми дистрибутивами, не отвлекаясь на настройку и подгонку компонентов. Именно вокруг этой мысли и возникли эти материалы.
У нас есть MCP дома
Всем привет! Меня зовут Петрович и я работаю техлидом java команды в небольшом международном финтехе. В прошлый раз я рассказывал, как мы меняли Redis на Hazelcast, а сегодня расскажу как мы делали свой MCP-сервер для Jira, Confluence и GitLab (все self-hosted). От пустого репозитория до прода прошло две недели, а сейчас у сервера уже почти 100 инструментов. Расскажу, почему не взяли готовое решение, как все устроено внутри и на какие грабли мы наступили (спойлер: почти все грабли назывались null).Немного матчасти: что такое MCPModel Context Protocol - это открытый стандарт
Обучаем LLM по клику: платформа распределённого обучения на HGX
Привет, Хабр! Меня зовут Павел, я старший разработчик ML-платформы в Авито и последние полтора года занимаюсь MLOps. На прошедшей Kuber Conf от АОТ я выступал с докладом про нашу платформу распределённого обучения, а теперь решил сделать на его основе статью для вас. Если вам комфортнее воспринимать такие материалы в формате видео — держите.
Как делят GPU в докладах KubeCon Japan 2026 и у нас в Авито
Привет, Хабр! Меня зовут Антон Алексеев, я MLOps-инженер в Авито. В конце июля мы с коллегами съездили в Иокогаму на KubeCon + CloudNativeCon Japan 2026. Ко второму дню я заметил, что слайды выступающих повторяются: спектр изоляции тенантов, квоты, bin packing, «GPU дорогие — давайте делить». Мы решаем в Авито ту же задачу, поэтому я разберу шесть докладов про GPU и LLM-инференс и расскажу, что из этого мы уже пробовали или собираемся попробовать. А в конце будет немного про саму Японию.СодержаниеИнференс обогнал обучение
Централизуем использование ИИ при помощи Agentgateway
Всем привет! Меня зовут Ваня, по призванию системный архитектор в RED Security. Хочу познакомить вас с open-source-решением для контроля и централизации работы с ИИ — Agentgateway.
