Укрощение GPU в Kubernetes: динамический шеринг мощностей
Управление GPU в Kubernetes переросло стадию, когда было достаточно простого проброса устройства в контейнер. Сегодня инфраструктура для ИИ-нагрузок требует такой же гибкости, как и для стандартных микросервисов: мы должны уметь делить ресурсы, масштабировать их и эффективно утилизировать каждый терафлопс, не переплачивая за простаивающее «железо».
Чем различаются способы установки приложений на сервер
Автор: Иван Богданов, Технический писательВопрос о том, как ставить софт на сервер, выглядит решенным примерно до момента, пока в команде не находится два человека с разными привычками. Один ставит apt install nginx и не понимает, зачем усложнять. Второй тянет тот же nginx контейнером, потому что через полгода придется откатываться, и делать это через apt он не хочет. Да и типичный это спор между олдскулами и сторонниками контейнеров везде и всюду.
Мессенджер на своем сервере. Что это значит?
За последние несколько лет on-premise решения стали одним из основных направлений развития корпоративных коммуникаций. Причины понятны: требования информационной безопасности, контроль над данными и независимость от внешних сервисов.
Проект Kubernetes разъяснил политику в отношении ИИ
В блоге Kubernetes опубликовали сообщение, посвящённое политике в отношении искусственного интеллекта. В нём рассматривается, как сообщество адаптируется к миру программирования с использованием ИИ.
Автотесты: опыт построения системы качества для Kubernetes-платформы
На старте проекта у нас не было ни одного автотеста. При этом продукт уже представлял собой полноценную платформу контейнеризации на базе Kubernetes с большим количеством управляемых сервисов и единой консолью управления. Любое изменение могло затронуть базы данных, брокеры сообщений, системы хранения данных или внутренние управляющие компоненты платформы.
Разворачиваем ИИ в контейнерах: опыт интеграции LocalAI и Kubeflow
Привет, Хабр! Мы — команда dBrain.cloud, и сегодня хотим поделиться нашим путем по внедрению ИИ-сервисов на нашей платформе контейнеризации. Искусственный интеллект стремительно проникает практически в каждый цифровой продукт, будь то аналитика, корпоративные сервисы или клиентские приложения. В связи с этим перед нами встал важный вопрос: как обеспечить надежную и масштабируемую инфраструктуру для развертывания собственных и готовых ИИ-моделей?
Умная афиша концертов Золотого кольца России: Python + LLM
Содержание: 1. Знакомство с сервисом 2. Архитектура 3. Важные нюансы 4. Развёртывание в PROD1. Знакомство с сервисомКак это работает? Представим, что «Знаток концертов» — Ваш умный библиотекарь 📚. Он настоящий специалист в своём деле, и по каждой книге (концерту) у него есть заметка с кратким содержанием 📝Вы приходите к библиотекарю с мыслью "что-то этакое почитать"
Более 10 тысяч образов Docker Hub содержат утечки учётных данных и ключей аутентификации
Исследователи безопасности из компании Flare выяснили, что 10 456 образов контейнеров Docker Hub раскрывают информацию, которая должна быть защищена. Она включает учётные данные для доступа к производственным системам, базам данных CI/CD или ключи моделей LLM.
Docker начал предоставлять неограниченный доступ к защищённым образам для каждой команды
Команда Docker объявила о предоставлении неограниченного доступа к каталогу образов Hardened Images, чтобы сделать безопасные программные пакеты доступными для всех команд разработчиков в стартапах и компаниях малого и среднего бизнеса.
