Пишем LLM бенчмарк для GPU-серверов с картами NVIDIA в Ollama
Автор: Александр Казанцев, руководитель направления по работе с документацией и контентом HOSTKEYПри сборке GPU-серверов или при проблемах с ними, которые сообщают наши клиенты, нам необходимо проводить их тестирование. Так как разворачивание LLM-моделей в Ollama является одним из сценариев их использования и мы предлагаем готовые панели с моделями на её основе, то нам необходимо также проверять машины на работоспособность и под нагрузкой в инференсе через нее и иметь результаты для сравнения.GPU-серверы — почасовая тарификация
ЦОД в родном городе Nvidia пустуют в ожидании подключения к электросети
В Санта-Кларе, где базируется крупнейший в мире поставщик чипов искусственного интеллекта Nvidia, компания Digital Realty Trust в 2019 году подала заявку на строительство центра обработки данных. Спустя примерно шесть лет проект так и не реализован из-за отсутствия подключения к электросети.
Deutsche Telekom и NVIDIA объявили о партнёрстве на 1 миллиард евро
Deutsche Telekom и NVIDIA объявили о масштабном партнёрстве на сумму около 1 миллиарда евро, которое предусматривает создание нового промышленного облачного центра ИИ в Мюнхене с запуском в первом квартале 2026 года.
