- BrainTools - https://www.braintools.ru -

22 апреля мы презентовали новый высокопроизводительный сервер для AI-задач. Акцент сделали на оптимизации взаимодействия процессора, RAM, GPU и накопителей. Что скрывается под капотом, а также кому и зачем подойдет такой сервер, рассказали под катом.
AI-сервер Selectel — это 8U-серверная платформа для HPC (инференса, аналитики) и рендеринга. Сервер включает:
собственную материнскую плату с поддержкой двух процессоров Intel® Xeon® 6,
возможность установки до 8 ТБ оперативной памяти [1] DDR5,
поддержку до 16 GPU,
12 слотов для NVMe/SAS/SATA-накопителей и два M.2 PCIe 5.0,
176 линий PCIe 5.0 / CXL и OCP 3.0 x16 для подключения ускорителей и периферии,
систему охлаждения с 12 вентиляторами и 7 блоками питания (5 для GPU, 2 для платы),
удаленное управление и встроенный аппаратный чип безопасности TPM 2.0.

AI-сервер ориентирован на компании, которые внедряют искусственный интеллект [2] в свои продукты и бизнес: крупные организации в сфере финансов, телекома, ритейла, логистики и промышленности. Решение подойдет, например, для запуска и масштабирования AI-инициатив — от автоматизации клиентской поддержки до оптимизации логистических цепочек. Сервер также можно использовать для локального развертывания LLM внутри контура компании.
Запуск нового AI-сервера является частью стратегии Selectel по формированию собственного портфеля серверных решений, включая специализированные инфраструктурные продукты для задач в сфере ИИ. Новая аппаратная платформа обеспечит стабильную, быструю и предсказуемую работу AI-моделей в реальных условиях с полным контролем над данными и производительностью.
руководитель отдела разработки встроенных систем Selectel
Автор: El_Gato_Grande
Источник [3]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/29203
URLs in this post:
[1] памяти: http://www.braintools.ru/article/4140
[2] интеллект: http://www.braintools.ru/article/7605
[3] Источник: https://habr.com/ru/companies/selectel/news/1026364/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1026364
Нажмите здесь для печати.