- BrainTools - https://www.braintools.ru -

Виртуализация PCI Express по воздуху: беспроводная внешняя видеокарта WiCi One

Виртуализация PCI Express по воздуху: беспроводная внешняя видеокарта WiCi One - 1

Внешние графические ускорители eGPU исторически оставались нишевым решением из-за требований к пропускной способности и задержкам шины передачи данных. Подключение через физические интерфейсы Thunderbolt или OCuLink требовало прямого кабеля и ограничивало ускоритель работой только с одним хостом. Стартап WiCi предпринял попытку переосмыслить эту концепцию: нашему вниманию [1] было представлено устройство WiCi One. Это внешнее шасси, подключаемое по Wi-Fi 7, которое позиционируется как сетевой ускоритель для локальной работы с LLM [2].

Задержки и архитектура

PCIe рассчитан на субмикросекундные задержки при обмене пакетами TLP между корневым комплексом и конечным устройством. Прямая проброска транзакций PCIe через Wi-Fi 7 привела бы к падению производительности: даже при минимальном пинге регулярные опросы состояния устройства превратили бы вычисления в очень долгий процесс.

Источник.

Чтобы обойти эти ограничения, WiCi разработали специальный виртуальный драйвер. Он эмулирует присутствие физической видеокарты в операционной системе клиента, перехватывая все вызовы на программном уровне. Драйвер выполняет локальное кэширование рутинных запросов состояния, дедуплицирует повторяющиеся инструкции и сжимает данные перед отправкой. В эфир уходят только те операции, которые действительно требуют исполнения на удаленном чипе, благодаря чему ОС воспринимает WiCi One как локально подключенный ускоритель.

Как там все устроено

Работа с LLM требует прокачки гигабайтов параметров, а при использовании MoE неактивные эксперты часто подгружаются с накопителя. Для исключения передачи тяжелых весов по беспроводной сети в корпус WiCi One интегрировали SSD NVMe на 1 ТБ. Такое решение позволяет хранить параметры нейросетей непосредственно внутри внешнего шасси. Клиентская машина отправляет по Wi-Fi 7 только текстовые промпты, управляющие команды и получает готовые токены, что снимает основную нагрузку с беспроводного канала.

Виртуализация PCI Express по воздуху: беспроводная внешняя видеокарта WiCi One - 3

NVIDIA L4 в облаке Selectel от 37,38 ₽/час

Для запуска современных языковых и мультимодальных моделей.

Подробнее → [4]

Сетевая архитектура делает WiCi One доступным сразу для нескольких устройств в локальной сети. Разработчики предусмотрели несколько способов взаимодействия: через стандартный виртуальный драйвер PCIe, а также с помощью библиотек Python или посредством прямого API — для полноценной работы с LLM (когда веса читаются с внутреннего SSD и передаются только промпты).

При этом устройство, возможно, не очень пригодно для трехмерного рендеринга. Хотя заявлена поддержка Direct3D и Vulkan, задержки беспроводной сети делают невозможной стабильную передачу кадров и геометрии с 60 FPS. Разработчики признают, что поддержка графических API находится на «базовом» этапе, а приоритетным сценарием остаются вычисления общего назначения и машинное обучение [5].

Источник.

А что по ценам

Базовая версия WiCi One включает графический ускоритель NVIDIA® RTX™ 5060 Ti с 16 ГБ видеопамяти, Intel Core 3 100U, встроенный блок питания и систему охлаждения, и, как говорилось выше, SSD NVMe на 1 ТБ и модуль Wi-Fi 7.

Предзаказ базовой модификации открыт по цене 1 999 $ (заявленная розничная цена составляет 2 599 $). Немало, конечно, но в эту стоимость, помимо железа, заложена цена проприетарного софта и виртуального драйвера WiCi. В дальнейшем планируется модификация с GeForce RTX™ 5090 (32 ГБ VRAM), однако ее стоимость и сроки выхода пока не объявлены. Запуск ограниченной «ознакомительной» версии запланирован на четвертый квартал 2026 года.

Автор: A_Rat

Источник [6]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/36076

URLs in this post:

[1] вниманию: http://www.braintools.ru/article/7595

[2] с LLM: https://promo.selectel.ru/ai-router?utm_source=habr.com&utm_medium=referral&utm_campaign=ai-router_news_egpu-wici-one_260926_content

[3] Источник: https://wici.ai/wici-one

[4] Подробнее →: https://selectel.ru/services/cloud/servers/?utm_source=habr.com&utm_medium=referral&utm_campaign=cloud_news_egpu-wici-one_260926_banner_ord

[5] обучение: http://www.braintools.ru/article/5125

[6] Источник: https://habr.com/ru/companies/selectel/news/1086718/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1086718

www.BrainTools.ru

Rambler's Top100