nvidia.

NOOA от NVIDIA: открытый Python‑фреймворк для разработки ИИ‑агентов

Компания NVIDIA выпустила открытый фреймворк NOOA (Object‑Oriented Agents)

продолжить чтение

NVIDIA RTX PRO 5000 Blackwell с 72 Гб видеопамяти. Есть ли смысл переплачивать за «половинку» флагмана?

Nvidia окончательно запутывает нас своей линейкой Blackwell. Если посмотреть на PCI.ids выпущенных видеокарт профессионального семейства Blackwell, то мы увидим следующее:

продолжить чтение

Июльский дайджест обновлений — добавили еще GPU в облако и обновили 152-ФЗ

Привет! За окном лето и мы к вам с горячими новостями. Вот что у нас нового: добавили в облако mClouds еще больше видеокарт NVIDIA L40S и A16, завершили аттестацию платформы по 152-ФЗ, попали на карту ИТ-лидеров CNewsMarket и, конечно, продолжили публиковать статьи на Хабре и в нашем блоге. Увеличили доступность NVIDIA L40S и A16Рады сообщить: мы добавили в хосты еще видеокарт NVIDIA L40S 48GB и A16 64GB. Теперь задействовать графические мощности стало проще. Карты уже подключены к нашей облачной GPU-платформе. Коротко напомним их характеристики:NVIDIA L40S

продолжить чтение

Ускорение инференса энкодерной guard‑модели: TensorRT, Triton, vLLM, Ray Serve

Когда в системе есть узел между LLM и пользователем его скорость также важна, как и скорость самой LLM. Когда этот узел сам является моделью (и иногда даже — тоже LLM) — задача ускорения становится совсем веселой и её нужно уметь решать разными способами. В этой работе я опишу процесс ускорения guardrail‑модели — узла, которые проверяет — нет ли на входе или выходе опасного контента.

продолжить чтение

Подводные камни ИИ-инфраструктуры: что узнаёт заказчик через полгода после запуска (и как мы предусмотрели это в ПАК)

продолжить чтение

Коалиция Хуанга удвоилась за сутки. Из фронтирных лаб её не подписала только Anthropic

Главное пополнение — Google и поддержка от Пичаи и Хассабиса. Amazon молчит, а за Anthropic в твиттере отдувается один технарь.Андрей Карпатый и Дарио АмодеиЧерез сутки после первого поста Хуанга под письмом

продолжить чтение

Дженсен Хуанг завёл твиттер и первым же постом собрал коалицию против фронтирных лаб

Письмо в защиту опенсорса подписали 35 компаний. Anthropic, Google и Amazon в списке нет. 24 июля глава NVIDIA 

продолжить чтение

Дженсен Хуанг поблагодарил Sega за помощь в финансировании Nvidia

Генеральный директор Nvidia Дженсен Хуанг принял участие в мероприятии GiGO Akihabara, посвящённом аркадным играм и историческому сотрудничеству сети с Sega. В мероприятии также участвовали председатель и генеральный директор Sega Харуки Сатоми, а также президент и главный операционный директор японской компании Сюдзи Уцуми. Хуанг поблагодарил

продолжить чтение

Nvidia начала страховать по кредитам сдающих в аренду ИИ-мощности провайдеров

Nvidia нашла способ стимулировать продажи своих GPU на фоне конкуренции. Теперь компания выступает страховщиком по кредитам для специализированных провайдеров, сдающих в аренду ИИ-мощности.

продолжить чтение

Минфин США пригрозил санкциями за китайский ИИ. Через несколько часов глава Nvidia встал на защиту моделей

Во вторник министр финансов США Скотт Бессент заявил

продолжить чтение

123456...1020...38