Microsoft разрабатывает инструмент для запуска CUDA-кода на видеокартах AMD
Компания Microsoft создает набор инструментов, который позволяет адаптировать модели и программы, написанные для NVIDIA CUDA, для работы на платформе AMD ROCm. Цель проекта – снизить затраты на оборудование для инференса ИИ, предоставляя возможность использовать более доступные графические процессоры AMD без необходимости переписывать исходный код.
Решение представляет собой слой совместимости, который транслирует вызовы API из CUDA в ROCm в реальном времени. Это позволяет моделям и библиотекам, рассчитанным на NVIDIA, работать на AMD почти напрямую. Однако эффективность работы ограничена незрелостью экосистемы ROCm. Для части кода CUDA пока нет эффективного аналога, что может сказываться на производительности в крупных дата-центрах.
На данный момент инструментарий используется внутри Microsoft и дорабатывается совместно с AMD для дальнейшей оптимизации. Компания отмечает, что это стратегический шаг к более гибкой и экономичной инфраструктуре для запуска ИИ-моделей, позволяющий снизить зависимость от одной только экосистемы NVIDIA.
Делегируйте часть рутинных задач вместе с BotHub! [1] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке [2] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Источник [3]
Автор: cognitronn
Источник [4]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/21781
URLs in this post:
[1] BotHub!: https://bothub.chat/?utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_source=contentmarketing&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_medium=habr&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_campaign=news&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_content=MICROSOFT%20DEVELOPS%20TOOL%20FOR%20RUNNING%20CUDA%20CODE%20ON%20AMD%20GPUS
[2] По ссылке: https://bothub.chat/?invitedBy=m_aGCkuyTgqllHCK0dUc7
[3] Источник: https://wccftech.com/microsoft-has-developed-toolkits-to-break-nvidia-cuda-dominance/
[4] Источник: https://habr.com/ru/companies/bothub/news/965118/?utm_source=habrahabr&utm_medium=rss&utm_campaign=965118
Нажмите здесь для печати.