cpp.
Я попробовал считать нейросетевой слой в конечном поле Галуа GF(137): 4x по памяти, ARM NEON и честные ограничения
В современных нейросетях критически важно, сколько физической памяти занимает каждый параметр. В этой работе я попытался уйти от классического float32 в нейросетевом слое к uint8 без квантования. Для этого все вычисления проводились сразу по правилам арифметики остатков в конечном поле Галуа GF(137).Стоит сказать, что это не замена обычному инференсу и не попытка доказать, что все должны срочно переписать модели на вычеты по модулю 137. Я взял небольшой слой, байтовые веса, нативное ядро, ARM NEON и несколько базовых реализаций для сравнения.
Дайджест C++: новости, полезные материалы и «свой язык» на десерт
Пока индустрия спорит о безопасности памяти, комитет ISO и разработчики продолжают ковать будущее любимого многими языка, мы собрали самые интересные события в мире C++ за последнее время, а также полезные материалы.
Всё ли знает ChatGPT? Проверяем факты о PVS-Studio
Действительно ли искусственный интеллект знает всё? Может ли он со 100% точностью ответить на вопросы о вас или вашей работе? В этой статье мы проверим, насколько ChatGPT осведомлён о компании PVS-Studio и об анализаторе.Введение
