Эффективность локального ИИ выросла в 5.3 раза за два года
Исследование группы Hazy Research доказало, что локальный ИИ-инференс становится всё более жизнеспособным и продуктивным. Для оценки использовался показатель интеллект [1] на ватт (IPW, intelligence per watt) – соотношение точности выполнения задачи к потребляемой мощности. Такой подход позволяет объективно оценивать эффективность как моделей, так и аппаратного обеспечения, особенно в условиях растущих требований к энергоэффективности.
По результатам исследования, локальные LLM с параметрами до 20 млрд уже способны обрабатывать 88,7% типичных одноэтапных запросов в чатах и задачах на логику [2]. За период с 2023 по 2025 год общая эффективность локального ИИ выросла в 5,3 раза. Этот прогресс объясняется как улучшением самих моделей (в 3,1 раза), так и развитием аппаратных ускорителей (в 1,7 раза).
Эксперты отмечают, что такие показатели открывают новые возможности для компаний и индивидуальных пользователей: локальный ИИ становится достаточно мощным для работы без постоянного подключения к облаку, снижая задержки и зависимость от внешней инфраструктуры. Это особенно важно для отраслей с высокими требованиями к конфиденциальности и скорости обработки данных, например, здравоохранение, финансы и промышленность.
Делегируйте часть рутинных задач вместе с BotHub! [3] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке [4] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Источник [5]
Автор: cognitronn
Источник [6]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/21913
URLs in this post:
[1] интеллект: http://www.braintools.ru/article/7605
[2] логику: http://www.braintools.ru/article/7640
[3] BotHub!: https://bothub.chat/?utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_source=contentmarketing&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_medium=habr&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_campaign=news&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_content=LOCAL%20AI%20EFFICIENCY%20INCREASED%205.3%20TIMES%20OVER%20TWO%20YEARS
[4] По ссылке: https://bothub.chat/?invitedBy=m_aGCkuyTgqllHCK0dUc7
[5] Источник: https://hazyresearch.stanford.edu/blog/2025-11-11-ipw
[6] Источник: https://habr.com/ru/companies/bothub/news/966336/?utm_source=habrahabr&utm_medium=rss&utm_campaign=966336
Нажмите здесь для печати.