Google выпустила открытую платформу Coral NPU (Neural Processing Unit), которая предлагает открытый аппаратный ускоритель моделей машинного обучения и программный инструментарий для его использования с ИИ-движками.
Так, на базе Coral можно создавать энергоэффективные системы на кристалле (SoC) для Интернета вещей, Edge-вычислений и платах сбора информации с датчиков, а также в потребительских носимых устройствах со сверхнизким энергопотреблением, в том числе наушниках, очках дополненной реальности и умных часах.
В NPU задействована 32-разрядная архитектура набора команд RISC-V RV32IMF_Zve32x, шина AXI4, четырёхступенчатый конвейер обработки инструкций с упорядоченной диспетчеризацией, неупорядоченным завершением выполнения инструкций, четырёхпоточной скалярной и двухпоточной векторной диспетчеризацией. Процессор поддерживает SIMD-операции для одновременной обработки 128-битных векторов и оснащён 8 KB ITCM-памяти для инструкций и 32 KB DTCM-памяти для данных.
Coral NPU позволяет обеспечить постоянную работу ИИ-приложений с низким энергопотреблением на стороне портативных устройств. Базовая реализация предлагает производительность на уровне 512 млрд операций в секунду (GOPS) при потреблении нескольких милливатт энергии.
NPU ориентирован на гибкую модификацию архитектуры в зависимости от потребностей производителей SoC. Первым пользователем платформы станет компания Synaptics, которая анонсировала линейку процессоров для устройств интернета вещей Astra SL2610, в том числе подсистему Torq NPU.
Также Coral NPU можно задействовать для обработки изображений и звука, взаимодействия с пользователем и учёта контекста. Она обеспечит работу на устройствах как больших языковых моделей, так и приложений для распознавания лиц и объектов, визуального поиска, распознавания речи, живого перевода, транскрипции речи, выделения в речи ключевых слов, управления жестами и голосовыми командами, определения активности пользователя и типа окружения.
Автор: maybe_elf
