ИИ в DevOps или как мы слепо доверяем сгенерированным манифестам
Привет, Хабр!Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Искусственный интеллект у нас есть везде, и, конечно, в ИТ, а точнее в DevOps, он тоже имеется. Многие, особенно начинающие инженеры, часто просят ИИ сгенерировать, к примеру, манифест Kubernetes Deployment.И нейросеть послушно выполняет поставленную задачу, при этом не спрашивая, какая версия кластера у вас запущена, не проверяя, какие CRD установлены, и не интересуясь, что отклоняет ваш admission controller. Вместо этого, LLM просто сгенерирует YAML, который
Палеокомпьютинг, часть 2: Kubernetes на Обероне, радио Вирта вместо сети, кластер в браузере и преимущества перед K8s
Представьте кластер Kubernetes, в котором нет ни одной сетевой карты. Его узлы ничего не знают ни о TCP/IP, ни даже об Ethernet и перекликаются по радио короткими пакетами по 32 байта, как прорабы по рациям на стройке. Управляющий слой написан на языке конца восьмидесятых и вместе с сетевым протоколом занимает около 1250 строк. Чтобы запустить под, ничего не нужно скачивать: узел просто загружает модуль и вызывает в нём процедуру. А главное, всё это открывается во вкладке браузера: можно выдернуть узел из розетки, заглушить эфир, подсунуть кластеру поддельную команду и посмотреть, что из этого выйдет.
Один разработчик, пять сервисов, три базы: что я понял об архитектуре, когда пришлось самому всё деплоить и чинить
Через год после закрытия проекта я открыл его код и устроил себе code review. Это был автомобильный маркетплейс объявлений, который я в одиночку спроектировал, написал, задеплоил и сопровождал: React‑фронтенд, три бэкенда на NestJS, PostgreSQL, чат на Socket.IO, интеграция платежей, Kubernetes в GKE, CI/CD, CronJob'ы и E2E.
Код-ревью самому себе через год: 8 архитектурных ошибок соло-проекта
Через год после закрытия проекта я открыл его код и устроил себе code review. Это был автомобильный маркетплейс объявлений, который я в одиночку спроектировал, написал, задеплоил и сопровождал: React‑фронтенд, три бэкенда на NestJS, PostgreSQL, чат на Socket.IO, интеграция платежей, Kubernetes в GKE, CI/CD, CronJob'ы и E2E.
Зачем Авито нужна своя Inference-платформа для ML-LLM-сервисов: PaaS vs отдельное решение
Привет, Хабр! Меня зовут Антон Алексеев, я ML Ops-инженер в Авито.В этой статье я разберу, почему существующий PaaS — отличный инструмент для веб-сервисов, но плохо подходит для ML/LLM-Inference, и с какими похожими проблемами сталкиваются крупные компании, у которых те же задачи.Также расскажу, почему было принято решение не дорабатывать PaaS под Inference, а строить отдельную Inference-платформу на базе готового open-source ядра, и почему этот путь оказался предпочтительнее.
65 бесплатных уроков октября: от LLM и Kubernetes до микросервисов, Kafka и безопасности
Привет, Хабр. В этом дайджесте собрали 65 бесплатных демо-уроков по основным IT-направлениям. В программе — многопоточность, микросервисы, Kubernetes, Kafka, LLM и ИИ-агенты, безопасность ИИ-систем, SQL, автоматизация тестирования, Data Quality и другие темы, с которыми сегодня сталкиваются команды в реальных проектах.Уроки проводят преподаватели OTUS — практикующие специалисты, которые работают с этими технологиями и подходами в своих проектах. Можно разобрать актуальные задачи вместе с экспертами, задать вопросы по своим кейсам и посмотреть, какие направления и инструменты стоит изучить глубже.
Палеокомпьютинг, часть 1: процессор Вирта, проект Оберон, новая архитектура в Qemu и KubeVirt и запуск в Cozystack и K8s
1 января 2024 года умер Никлаус Вирт, человек, который придумал Pascal, Modula-2 и Oberon, получил премию Тьюринга и всю жизнь упрямо воевал с раздутым софтом. Мало кто знает, что уже глубоко за семьдесят он сел и спроектировал собственный процессор, маленький и простой, чтобы на нём можно было показать студентам компьютер целиком, от логических вентилей до окон на экране.
Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт
Материал подготовлен в рамках курса «MLOps».Всем привет, меня зовут Сергей Прощаев и в этой статье расскажу про то, как снизить стоимость инференса LLM на собственных GPU, не меняя
Федеративное обучение без единой инфраструктуры: Docker, Kubernetes и Slurm в одной федерации
VK Cloud
netes за netes’ом: Kyvernetria, Mansplainetes и Misogynetes готовы уничтожать ваш прод уже сейчас
Я считаю, что у каждого человека должен быть свой кубернетес, и твёрдо и непоколебимо иду к этой цели. Уже есть кубернетес для татар и кубернетес для любителей эксельки. А сегодня я представляю три новых Кубернетеса, и каждый со своим характером и особенностями.Ну а что вы мне сделаете, у меня сотка кармы на Хабре и две подписки max в клоде, так что придётся ещё какое-то время меня тут потерпеть.
