DevOps. - страница 9

40 открытых уроков мая: куда движется мир IT в 2025 году

продолжить чтение

Как бессерверные gpu делают AI доступным. Введение в платформу PrimeWay

продолжить чтение

Навайбкодил с Cursor AI рабочее приложение. Но в чём подвох?

Я устал писать бойлерплейт и базовые стили. В итоге заставил ИИ делать это за меня. Результаты, размышления и откровения — внутри.О тексте в двух предложениях

продолжить чтение

Дайджест ключевых ИT-новостей из атомной отрасли за прошедшие недели:

Новый релиз «Атом.Око», открытие Центра критической инфраструктуры, переход «ТОРЭКСа» на отечественную платформу «АКСИОМА». Привет, Хабр!Вы на канале, где мы, одни из представителей ИТ-сообщества Росатома, делимся обзором ключевых цифровых событий отрасли. Мы хотим, чтобы наши читатели были в курсе актуальных новостей атомной отрасли. Здесь — все об инновациях, системах и решениях, которые трансформируют производство, управление и безопасность.

продолжить чтение

DUC meetup #1: приручаем Cilium и строим домашний LLM-кластер на Deckhouse

20 мая пройдёт наш первый инженерный митап Deckhouse User Community. В программе — доклады про работу Cilium и распределённый инференс LLM в домашних условиях с использованием K8s. После них проведём открытую дискуссию с инженерами Deckhouse и «Московского кредитного банка». Присоединяйтесь, регистрация уже открыта.ПрограммаCilium: всё, о чём вы догадывались, но боялись спросить

продолжить чтение

Policy as Code в Apache Kafka: опыт внедрения Open Policy Agent

1 Краткая постановка проблемыНа фоне опыта в развертывании нескольких кластеров Kafka появилось понимание того, что стандартные Access Control List'ы (ACL) неудобны по следующим причинам:сложность в конфигурировании через одну из вспомогательных утилит Kafka (bash‑скрипты, поставляемые в комплекте);необходимость вести реестр разрешений отдельно от ПО‑конфигуратора;

продолжить чтение

Как готовить Triton: рецепты вашей собственной Inference-платформы

Привет, Хабр! Меня зовут Антон, я DevOps-инженер в команде Data/ML-продуктов Selectel. Если вам нужно запустить небольшой инференс одной ML-модели, можно взять команду бэкендеров, дать им эту модель, они обернут ее в эндпоинт — и готово. Достаточно короткого скрипта из нескольких строк на Python. Но что если нужно запускать несколько моделей, оптимизировать выполнение, работать с ансамблем моделей, задействовать CPU и GPU одновременно и т. д.? Все эти проблемы решает NVIDIA Triton Inference Server. Правда, он добавляет одну новую: разобраться с ним и его документацией — тот еще квест. В статье посмотрим, насколько сложной задачей может оказаться создание собственного инференса и какие аспекты нужно учитывать. Научимся запускать различные форматы моделей, посмотрим на основные фичи Inference-платформы Selectel, запустим несколько популярных LLM и моделей, а также познакомимся со способами оптимизации конфигурации и проектирования интерфейса для модели.

продолжить чтение

Эффективная стратегия мониторинга: ключевые метрики для успешного наблюдения

Современные решения, построенные на микросервисной архитектуре, напоминают сложный организм: сотни взаимосвязанных компонентов, распределенные базы данных, облачные сервисы. Без продуманного наблюдения даже мелкая ошибка в одном узле может спровоцировать цепную реакцию — например, падение конверсии из-за «зависшего» платежного шлюза или потерю данных из-за перегруженной очереди сообщений.Грамотная стратегия мониторинга решает три ключевые проблемы:Сбои: предсказывает и локализует инциденты до того, как они ударят по бизнесу.

продолжить чтение

DevOps в крупных компаниях: вопросы и ответы от экспертов Selectel, Postgres Professional и СберТех

продолжить чтение

GreenOps — ключ к успеху там, где FinOps терпит неудачу

По последним оценкам, в 2025 году глобальные расходы на информационные технологии вырастут на 9%. Этот стремительный рост связан с бурным развитием облачных вычислений и искусственного интеллекта, которые преображают целые отрасли, обеспечивая беспрецедентную масштабируемость и инновации. Внедрение облачных технологий

продолжить чтение

Rambler's Top100