gpu.
Китайские GPU — две новинки, которые стоит рассмотреть в паре
За последние несколько дней Huawei и Alibaba практически одновременно представили новое железо для ИИ. Huawei — 17 сентября на HUAWEI CONNECT 2026 в Шанхае,
Две ИИ-фабрики Армении: что построили и на кого они работают
Часть 2.1 Дополнение к части 2 · Хабр · Холодный анализ Дисклеймер: это инженерный разбор, а не инвестиционная рекомендация.
Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт
Материал подготовлен в рамках курса «MLOps».Всем привет, меня зовут Сергей Прощаев и в этой статье расскажу про то, как снизить стоимость инференса LLM на собственных GPU, не меняя
Российский нейрочип от НТЦ «Модуль»
Дополнение к части 2 «Рынок вычислений в России, Казахстане и Беларуси» — то, что не вошло в основной текстВ части 2 про рынок вычислений есть фраза, которую я написал между делом: «…и нишевые нейропроцессоры НТЦ "Модуль"». Скобка, запятая — и дальше про память и электричество. Но я споткнулся о скобку: про эти процессоры я слышал давно, всерьёз не разбирался, а цифр перед глазами не держал. Проверил. Погрузился. И чем глубже капал, тем яснее было: этому процессору нужна отдельная статья.История.
Рынок вычислений в России, Казахстане и Беларуси
Часть 2 из 2 · Хабр · Холодный анализ · Часть 1: «Карточный домик из GPU: архитектура neocloud-пузыря»У них всего с избытком: денег, площадок, обещанных гигаватт. У нас всего не хватает: мощностей, чипов, компетенций. Пузырь — не наш, но его цены и его дефициты мы импортируем.В первой части
Как устроены LLM: разбираем на примере 3-уровневой абстракции
Чтобы оптимизировать производительность больших языковых моделей (LLM), необходимо понимать весь программный стек. Мне не удалось найти подробную статью, которая показывала бы этот стек как общую картину, поэтому я решил написать такую статью сам. Эта статья не является исчерпывающим обзором или набором наилучших практик. Здесь я в большей степени делюсь моими общими представлениями о том, как выглядит ландшафт современных LLM‑систем.Во‑первых, любая система проектируется с расчётом на достижение конкретных целей с учётом заданных ограничений. В LLM‑системах наиболее принципиальные цели связаны с увеличением
Может ли дата-центр вообще отказаться от воды?
Немного экспериментальный формат, который надеюсь, вам зайдет. Мне лично очень нравится изучать разные темы вне статистики, аналитики и прикладных к ним темам, поэтому иногда для того, чтобы лучше разобраться с какой-то темой лучше всего ее попробовать объяснить или описать самостоятельно.В данном материале речь пойдет про ИИ, но немного с непривычного формата - попробуем разобраться, зачем охлаждают и чем сейчас охлаждаются дата-центры
