NVIDIA RTX PRO 5000 Blackwell с 72 Гб видеопамяти. Есть ли смысл переплачивать за «половинку» флагмана?
Nvidia окончательно запутывает нас своей линейкой Blackwell. Если посмотреть на PCI.ids выпущенных видеокарт профессионального семейства Blackwell, то мы увидим следующее:
Июльский дайджест обновлений — добавили еще GPU в облако и обновили 152-ФЗ
Привет! За окном лето и мы к вам с горячими новостями. Вот что у нас нового: добавили в облако mClouds еще больше видеокарт NVIDIA L40S и A16, завершили аттестацию платформы по 152-ФЗ, попали на карту ИТ-лидеров CNewsMarket и, конечно, продолжили публиковать статьи на Хабре и в нашем блоге. Увеличили доступность NVIDIA L40S и A16Рады сообщить: мы добавили в хосты еще видеокарт NVIDIA L40S 48GB и A16 64GB. Теперь задействовать графические мощности стало проще. Карты уже подключены к нашей облачной GPU-платформе. Коротко напомним их характеристики:NVIDIA L40S
Ускорение инференса энкодерной guard‑модели: TensorRT, Triton, vLLM, Ray Serve
Когда в системе есть узел между LLM и пользователем его скорость также важна, как и скорость самой LLM. Когда этот узел сам является моделью (и иногда даже — тоже LLM) — задача ускорения становится совсем веселой и её нужно уметь решать разными способами. В этой работе я опишу процесс ускорения guardrail‑модели — узла, которые проверяет — нет ли на входе или выходе опасного контента.
Коалиция Хуанга удвоилась за сутки. Из фронтирных лаб её не подписала только Anthropic
Главное пополнение — Google и поддержка от Пичаи и Хассабиса. Amazon молчит, а за Anthropic в твиттере отдувается один технарь.Андрей Карпатый и Дарио АмодеиЧерез сутки после первого поста Хуанга под письмом
Дженсен Хуанг завёл твиттер и первым же постом собрал коалицию против фронтирных лаб
Письмо в защиту опенсорса подписали 35 компаний. Anthropic, Google и Amazon в списке нет. 24 июля глава NVIDIA
Дженсен Хуанг поблагодарил Sega за помощь в финансировании Nvidia
Генеральный директор Nvidia Дженсен Хуанг принял участие в мероприятии GiGO Akihabara, посвящённом аркадным играм и историческому сотрудничеству сети с Sega. В мероприятии также участвовали председатель и генеральный директор Sega Харуки Сатоми, а также президент и главный операционный директор японской компании Сюдзи Уцуми. Хуанг поблагодарил
Nvidia начала страховать по кредитам сдающих в аренду ИИ-мощности провайдеров
Nvidia нашла способ стимулировать продажи своих GPU на фоне конкуренции. Теперь компания выступает страховщиком по кредитам для специализированных провайдеров, сдающих в аренду ИИ-мощности.
Минфин США пригрозил санкциями за китайский ИИ. Через несколько часов глава Nvidia встал на защиту моделей
Во вторник министр финансов США Скотт Бессент заявил
Китайская Z.ai построила ИИ-дата-центр мощностью 1 ГВт без ускорителей Nvidia
Китайская компания Z.ai завершила строительство крупного вычислительного центра для искусственного интеллекта, который полностью работает на китайских ускорителях и не использует чипы Nvidia. По данным Bloomberg, часть объекта уже введена в эксплуатацию. Инфраструктура предназначена для обучения и разработки следующих поколений моделей семейства GLM.Мощность нового комплекса — около 1 ГВт. Это один из крупнейших проектов такого типа среди китайских ИИ-разработчиков. При этом компания не раскрывает точное расположение объекта, количество установленных ускорителей и конкретных производителей используемых чипов.
