OpsDeck за три недели: ИИ‑агент, который сам ходит на хосты, и ещё восемь релизов
OpsDeck за три недели: ИИ‑агент, который сам ходит на хосты, и ещё восемь релизов
Шесть субагентов и один плагин: как в Revit мы считаем путь от машино-места до лифта
15 октября на BIM Просвете выступил Павел Осипов, начальник отдела цифровизации корпоративных систем Sminex. Павел рассказал, как ИИ-агенты помогают в разработке продукта, и показал прикладной инструмент, который сделали по запросу бизнеса и уже используют в ежедневной работе.Какую задачу решает плагин для Revit
Как мы внедряли LLM в модерацию Авито
Привет! Меня зовут Руслан Сакаев, я DS-тимлид в Авито. В статье расскажу, как мы внедряли LLM в проверки объявлений и что пришлось достроить вокруг модели, чтобы решение выдержало продакшен.Статья будет полезна DS/ML-инженерам, MLOps и техническим руководителям, которые уже поняли, что LLM закрывает их задачу, но пока не знают, как обернуть это в готовое продакшн-решение.В этой статьеЗадача и ограниченияПочему LLM хорошо работает в задачах модерации
Сеть для ИИ-нагрузок: не как обычно. RoCEv2, RDMA и почему InfiniBand — не единственный правильный ответ (часть 1)
Привет, Хабр! Продолжаем цикл про инфраструктуру для ИИ-задач. В первой статье
Министерство внутренней безопасности США предписало федеральным ведомствам удалить из своих систем китайский ИИ DeepSeek
Министерство внутренней безопасности США (DHS) обязало американские федеральные ведомства прекратить закупку услуг и продуктов, разработанных китайской компанией в сфере искусственного интеллекта DeepSeek. DHS также распорядилось убрать решения DeepSeek из правительственных IT-систем. Решения министерства обусловлены опасениями по поводу национальной безопасности.
Хакер взломал сайты John Deere, SharkNinja и Commins с помощью «армии» ИИ‑агентов
Китайский хакер использовал «армию» агентов на искусственном интеллекте для взлома сайтов более чем 100 компаний, включая Deere & Company, SharkNinja и Cummins. Об этом сообщило агентство Reuters со ссылкой на ведущего исследователя угроз в NorForge Снорре Фагерланда.
Ваш запрос очень важен для нас: Gateway API Inference Extension в модуле alb Deckhouse Platform
В августе мы писали о модуле alb — реализации Gateway API на Envoy в Deckhouse Platform. Теперь модуль поддерживает объект InferencePool из Gateway API Inference Extension. Через тот же шлюз, что публикует обычные приложения, можно отдавать и модели, а выбор реплики передать компоненту, который получает метрики её загрузки.Всем привет! Я Пётр Антонов — руководитель продуктовых направлений «Сети и провайдеры для частной инфраструктуры» в команде Deckhouse. Рассказываю, почему round-robin не подходит для запросов к модели, как устроены InferencePool
Укрощение GPU в Kubernetes: динамический шеринг мощностей
Управление GPU в Kubernetes переросло стадию, когда было достаточно простого проброса устройства в контейнер. Сегодня инфраструктура для ИИ-нагрузок требует такой же гибкости, как и для стандартных микросервисов: мы должны уметь делить ресурсы, масштабировать их и эффективно утилизировать каждый терафлопс, не переплачивая за простаивающее «железо».

