Google представила открытую модульную платформу для создания ИИ-ускорителей Coral NPU

Google выпустила ^[1] открытую платформу Coral NPU ^[2] (Neural Processing Unit), которая предлагает открытый аппаратный ускоритель моделей машинного обучения ^[3] и программный инструментарий для его использования с ИИ-движками.

Так, на базе Coral можно создавать энергоэффективные системы на кристалле (SoC) для Интернета вещей, Edge-вычислений и платах сбора информации с датчиков, а также в потребительских носимых устройствах со сверхнизким энергопотреблением, в том числе наушниках, очках дополненной реальности и умных часах. 

В NPU задействована 32-разрядная архитектура набора команд RISC-V RV32IMF_Zve32x, шина AXI4, четырёхступенчатый конвейер обработки инструкций с упорядоченной диспетчеризацией, неупорядоченным завершением выполнения инструкций, четырёхпоточной скалярной и двухпоточной векторной диспетчеризацией. Процессор поддерживает SIMD-операции для одновременной обработки 128-битных векторов и оснащён 8 KB ITCM-памяти для инструкций и 32 KB DTCM-памяти для данных.

Coral NPU позволяет обеспечить постоянную работу ИИ-приложений с низким энергопотреблением на стороне портативных устройств. Базовая реализация предлагает производительность на уровне 512 млрд операций в секунду (GOPS) при потреблении нескольких милливатт энергии. 

NPU ориентирован на гибкую модификацию архитектуры в зависимости от потребностей ^[4] производителей SoC. Первым пользователем платформы станет компания Synaptics, которая анонсировала линейку процессоров для устройств интернета вещей Astra SL2610, в том числе подсистему Torq NPU.

Также Coral NPU можно задействовать для обработки изображений и звука, взаимодействия с пользователем и учёта контекста. Она обеспечит работу на устройствах как больших языковых моделей, так и приложений для распознавания лиц и объектов, визуального поиска, распознавания речи, живого перевода, транскрипции речи, выделения в речи ключевых слов, управления жестами и голосовыми командами, определения активности пользователя и типа окружения.