Nvidia представила самый маленький AI-суперкомпьютер за 3999 долларов
Компания Nvidia запускает продажи DGX Spark — мини-ПК весом всего 1,2 килограмма, который, по словам разработчиков, сочетает в себе компактность ноутбука и вычислительную мощность дата-центра. Устройство ориентировано на инженеров, исследователей и разработчиков, которым нужно работать с современными моделями искусственного интеллекта [1] без подключения к облаку.
В основу DGX Spark лег новый чип GB10, объединяющий 20-ядерный процессор Grace на архитектуре Arm и графику Blackwell, которая уже используется в топовых серверах Nvidia DGX для дата-центров. В конфигурации предусмотрено 128 гигабайт памяти [2] LPDDR5x и 4 терабайта NVMe-накопителя, что позволяет запускать крупные языковые и визуальные модели локально, а также проводить тестирование и обучение [3] прямо на устройстве.
Система работает под управлением DGX OS — специализированной версии Ubuntu, включающей готовый пакет AI-инструментов, таких как CUDA, TensorRT, PyTorch и NGC-репозиторий моделей. Nvidia заявляет, что Spark поддерживает локальную оптимизацию и fine-tuning, а также может выполнять inference для моделей уровня GPT-4-mini без внешнего GPU-сервера.
Стоимость новинки составляет 3999 долларов, и это делает DGX Spark самым доступным устройством линейки DGX. Помимо Nvidia, свои версии мини-суперкомпьютера выпустят Asus, Dell, Gigabyte, HP, Lenovo и MSI, каждая со своей системой охлаждения и компоновкой портов.
Позже в этом году компания представит более мощную станцию DGX Station GB300, рассчитанную на профессиональные студии и исследовательские центры. Она будет использовать обновлённую архитектуру Blackwell и обеспечит вычислительную мощность до 1,8 петфлопс.
Делегируйте часть рутинных задач вместе с BotHub! [4] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке [5] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Источник [6]
Автор: cognitronn
Источник [7]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/20686
URLs in this post:
[1] интеллекта: http://www.braintools.ru/article/7605
[2] памяти: http://www.braintools.ru/article/4140
[3] обучение: http://www.braintools.ru/article/5125
[4] BotHub!: https://bothub.chat/?utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_source=contentmarketing&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_medium=habr&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_campaign=news&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_content=CO-FOUNDER%20OF%20ANTHROPIC%20PUBLISHED%20ESSAY%20ON%20THE%20NATURE%20OF%20MODERN%20AI%20SYSTEMS
[5] По ссылке: https://bothub.chat/?invitedBy=m_aGCkuyTgqllHCK0dUc7
[6] Источник: https://www.pcmag.com/news/nvidia-to-start-selling-3999-dgx-spark-mini-pc-this-week
[7] Источник: https://habr.com/ru/companies/bothub/news/956614/?utm_source=habrahabr&utm_medium=rss&utm_campaign=956614
Нажмите здесь для печати.