- BrainTools - https://www.braintools.ru -

Nvidia представила кластер из четырёх DGX Spark с 512 ГБ для запуска AI‑моделей размером до 700 млрд параметров

На конференции SC26 в Чикаго Nvidia представила [1] DGX Spark HPC Developer Kit — кластер из четырёх компактных компьютеров DGX Spark с суммарными 512 ГБ памяти [2]. Он рассчитан на исследователей и разработчиков, которым надо локально запускать AI‑модели, отлаживать распределённые приложений и проводить ресурсоёмкие расчёты.

Nvidia представила кластер из четырёх DGX Spark с 512 ГБ для запуска AI‑моделей размером до 700 млрд параметров - 1

Каждый DGX Spark построен на GB10 Grace Blackwell Superchip с 20-ядерным Arm‑процессором и графическим ускорителем Blackwell. У одного узла 128 ГБ общей для CPU и GPU памяти типа LPDDR5X. Суммарный объём NVMe‑хранилища составляет 16 ТБ. Пиковая производительность каждого узла достигает 1 петафлопса в операциях FP4.

Узлы соединяются между собой в кольцо через сетевую карту Nvidia ConnectX-7. Каждый из DGX Spark связан с двумя соседями, поэтому отдельный сетевой коммутатор для подключения не нужен.

В компании отмечают, что вычислительных возможностей кластера хватает для локального запуска AI‑моделей размером до 700 млрд параметров. Кроме того, Nvidia готовит инструкцию по развёртыванию HPC SDK с GPU‑ускоренными компиляторами C, C++ и Fortran, библиотеками и средствами обмена сообщениями MPI для научных приложений.

Комплект уже можно заказать, но компания не называет цену на сайте. Для подробностей надо оставить заявку. Отдельная покупка четырёх DGX Spark со 128 ГБ памяти и SSD 4 ТБ обойдётся почти в 28 тыс. долларов без учёта коммутации и дополнительного оборудования.

Автор: daniilshat

Источник [3]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/38727

URLs in this post:

[1] представила: https://blogs.nvidia.com/blog/dgx-spark-hpc-developer-kit-sc26/

[2] памяти: http://www.braintools.ru/article/4140

[3] Источник: https://habr.com/ru/articles/1109072/?utm_campaign=1109072&utm_source=habrahabr&utm_medium=rss

www.BrainTools.ru

Rambler's Top100