mlops.

Векторный поиск: деплой без GPU на Triton Inference Server

Перед каждым ML-разработчиком, после обучения прекрасной модели, которая поднимет бизнесу метрики, а тебе годовую премию, возникает вопрос: а как ее задеплоить в сервисе, чтоб она начала работать?А ты пошел отдыхать.

продолжить чтение

Claude Opus 5.5 вышел в релиз, а повлияло ли это на рынок?

22 сентября состоялся релиз ожидаемой Claude Opus 5.5, которая, очевидно, обошла по характеристикам многие модели.

продолжить чтение

Бесплатного интеллекта не бывает: кто оплачивает данные для LLM

Привет, Хабр! По первому образованию я юрист. Успел поработать в прокуратуре и арбитражном суде, потом ушёл в ИТ и последние 13 лет занимаюсь инфраструктурой, разработкой и DevOps. Сейчас строю MLOps-платформы.Этот опыт мешает мне спокойно читать споры об авторском праве и генеративном ИИ. Юрист видит пробелы учета прав в копировании чужих книг. Инженер — цепочку операций: crawler, raw storage, очистку, дедупликацию, training mix, веса, API. Между «скачали страницу» и «модель ответила пользователю» слишком много разных операций, чтобы обсуждать их одним словом «обучение».Отправной точкой для этого разбора стала

продолжить чтение

Kubernetes без границ: Managed Kubernetes как вычислительный центр для ИИ

продолжить чтение

650 млн точек, 3 поломки и PI System: технический разбор предиктивной аналитики на НПЗ (часть 2)

Часть 2 из 2. В первой части серии мы предсказали отказ насоса за 60 дней и выяснили, что годами чинили не то. Увидели, что материал встретил вашу живую реакцию, поэтому возвращаемся по горячим следам со второй частью. В этом материале, как и обещали, погружаемся в технику. Расскажем, что было под капотом, как решалась судьба насоса и с какими сложностями мы столкнулись.

продолжить чтение

Как проверить ML‑модель перед продом и избежать утечки данных в scikit‑learn

Материал подготовлен в рамках курса «Машинное обучение. Продвинутый уровень».Всем привет, меня зовут Сергей Прощаев, и в этой статье расскажу, как сделать так, чтобы офлайн‑метрика модели соответствовала тому, что вы увидите в продакшене.Команда приносит модель: в отчёте

продолжить чтение

Мой первый RAG без LangChain

GPT-5.6 и Opus ищут, как подключить принтер в розеткуВ наши дни все, кому было интересно, уже попробовали RAG, я в том числе. И стандартная схема тривиальна: цепляем LangChain, три импорта, .from_documents()

продолжить чтение

ML‑датасет для Data Scientist: практический гайд по проверке качества данных перед обучением модели

Всем привет, меня зовут Сергей Прощаев, я Tech Lead и руководитель направления Java | Kotlin разработки в FinTech & E‑commerce и преподаю на курсах разработки и архитектуры в ОТУС.В этой статье расскажу про восемь проверок датасета, которые нужно прогнать до того, как кто‑то в команде напишет model.fit().Пятница, релиз

продолжить чтение

GlowByte приглашает на вебинар «Фабрика ИИ-агентов Kolmogorov.ai на инфраструктуре Selectel»

продолжить чтение

Масштабирование LLM: от одного чипа до ЦОДа. Глава 5. Инференс

Предыдущая главаНу и наконец рассмотрим, как нам применить обученный трансформер. И применение уже обученной модели сильно отличается от тренировки, потому что теперь приходится учитывать еще один фактор - задержку. Так что давайте разбираться, как устроен инференс LLM и как его правильно масштабировать.Основы инференсаИтак, мы натренировали трансофрмер и теперь хотим использовать его по назначению - принимать на вход промпт и генерировать в ответ всякие разные новые последовательности токенов/букв.

продолжить чтение

123456...10...13