- BrainTools - https://www.braintools.ru -

Внешние графические ускорители eGPU исторически оставались нишевым решением из-за требований к пропускной способности и задержкам шины передачи данных. Подключение через физические интерфейсы Thunderbolt или OCuLink требовало прямого кабеля и ограничивало ускоритель работой только с одним хостом. Стартап WiCi предпринял попытку переосмыслить эту концепцию: нашему вниманию [1] было представлено устройство WiCi One. Это внешнее шасси, подключаемое по Wi-Fi 7, которое позиционируется как сетевой ускоритель для локальной работы с LLM [2].
PCIe рассчитан на субмикросекундные задержки при обмене пакетами TLP между корневым комплексом и конечным устройством. Прямая проброска транзакций PCIe через Wi-Fi 7 привела бы к падению производительности: даже при минимальном пинге регулярные опросы состояния устройства превратили бы вычисления в очень долгий процесс.
Чтобы обойти эти ограничения, WiCi разработали специальный виртуальный драйвер. Он эмулирует присутствие физической видеокарты в операционной системе клиента, перехватывая все вызовы на программном уровне. Драйвер выполняет локальное кэширование рутинных запросов состояния, дедуплицирует повторяющиеся инструкции и сжимает данные перед отправкой. В эфир уходят только те операции, которые действительно требуют исполнения на удаленном чипе, благодаря чему ОС воспринимает WiCi One как локально подключенный ускоритель.
Работа с LLM требует прокачки гигабайтов параметров, а при использовании MoE неактивные эксперты часто подгружаются с накопителя. Для исключения передачи тяжелых весов по беспроводной сети в корпус WiCi One интегрировали SSD NVMe на 1 ТБ. Такое решение позволяет хранить параметры нейросетей непосредственно внутри внешнего шасси. Клиентская машина отправляет по Wi-Fi 7 только текстовые промпты, управляющие команды и получает готовые токены, что снимает основную нагрузку с беспроводного канала.

NVIDIA L4 в облаке Selectel от 37,38 ₽/час
Для запуска современных языковых и мультимодальных моделей.
Подробнее → [4]
Сетевая архитектура делает WiCi One доступным сразу для нескольких устройств в локальной сети. Разработчики предусмотрели несколько способов взаимодействия: через стандартный виртуальный драйвер PCIe, а также с помощью библиотек Python или посредством прямого API — для полноценной работы с LLM (когда веса читаются с внутреннего SSD и передаются только промпты).
При этом устройство, возможно, не очень пригодно для трехмерного рендеринга. Хотя заявлена поддержка Direct3D и Vulkan, задержки беспроводной сети делают невозможной стабильную передачу кадров и геометрии с 60 FPS. Разработчики признают, что поддержка графических API находится на «базовом» этапе, а приоритетным сценарием остаются вычисления общего назначения и машинное обучение [5].
Базовая версия WiCi One включает графический ускоритель NVIDIA® RTX™ 5060 Ti с 16 ГБ видеопамяти, Intel Core 3 100U, встроенный блок питания и систему охлаждения, и, как говорилось выше, SSD NVMe на 1 ТБ и модуль Wi-Fi 7.
Предзаказ базовой модификации открыт по цене 1 999 $ (заявленная розничная цена составляет 2 599 $). Немало, конечно, но в эту стоимость, помимо железа, заложена цена проприетарного софта и виртуального драйвера WiCi. В дальнейшем планируется модификация с GeForce RTX™ 5090 (32 ГБ VRAM), однако ее стоимость и сроки выхода пока не объявлены. Запуск ограниченной «ознакомительной» версии запланирован на четвертый квартал 2026 года.
Автор: A_Rat
Источник [6]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/36076
URLs in this post:
[1] вниманию: http://www.braintools.ru/article/7595
[2] с LLM: https://promo.selectel.ru/ai-router?utm_source=habr.com&utm_medium=referral&utm_campaign=ai-router_news_egpu-wici-one_260926_content
[3] Источник: https://wici.ai/wici-one
[4] Подробнее →: https://selectel.ru/services/cloud/servers/?utm_source=habr.com&utm_medium=referral&utm_campaign=cloud_news_egpu-wici-one_260926_banner_ord
[5] обучение: http://www.braintools.ru/article/5125
[6] Источник: https://habr.com/ru/companies/selectel/news/1086718/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1086718
Нажмите здесь для печати.