Тест Qwen3.5 9b, Gemma 4 12b и Bonsai 27b на легенде пенсионного возраста GTX 1080 ti
Все началось вообще не с идеи написать очередной бенчмарк. Мне нужно было собрать локальный пайплайн для длинных подкастов: получить транскрипт, найти в нем интересные куски, выбрать несколько сильных фрагментов и уже из них делать короткие вертикальные ролики.Облачные модели с этой задачей справляются, но постоянно гонять туда длинные расшифровки не очень хотелось. Плюс было интересно понять, насколько далеко сейчас можно уехать на железе.Под рукой была GTX 1080 Ti на 11 ГБ. Карта 2017 года, архитектура Pascal, никаких Tensor Cores.
Владелец неисправного модуля DDR5 Crucial добился замены только после обсуждения в сети размера компенсации от Micron
В конце прошлого года Micron объявила об уходе с потребительского рынка оперативной памяти и твердотельных накопителей со своим суббрендом Crucial. При этом компания обещала продолжать соблюдать гарантийные обязательства в отношении существующих продуктов Crucial. Однако недавний случай пользователя Reddit подчёркивает сохраняющиеся проблемы с гарантийным обслуживанием Micron, когда компания предложила клиенту слишком низкую компенсацию за возврат товара по гарантии.
AMD покупает стартап Taalas для создания чипов под конкретные нейросети
Компания AMD официально объявила
NVIDIA RTX PRO 5000 Blackwell с 72 Гб видеопамяти. Есть ли смысл переплачивать за «половинку» флагмана?
Nvidia окончательно запутывает нас своей линейкой Blackwell. Если посмотреть на PCI.ids выпущенных видеокарт профессионального семейства Blackwell, то мы увидим следующее:
Июльский дайджест обновлений — добавили еще GPU в облако и обновили 152-ФЗ
Привет! За окном лето и мы к вам с горячими новостями. Вот что у нас нового: добавили в облако mClouds еще больше видеокарт NVIDIA L40S и A16, завершили аттестацию платформы по 152-ФЗ, попали на карту ИТ-лидеров CNewsMarket и, конечно, продолжили публиковать статьи на Хабре и в нашем блоге. Увеличили доступность NVIDIA L40S и A16Рады сообщить: мы добавили в хосты еще видеокарт NVIDIA L40S 48GB и A16 64GB. Теперь задействовать графические мощности стало проще. Карты уже подключены к нашей облачной GPU-платформе. Коротко напомним их характеристики:NVIDIA L40S
Sandisk и SK Hynix опубликовали первый открытый стандарт высокоскоростной флэш‑памяти
Компании Sandisk и SK hynix объявили о выпуске технической спецификации HBF (High Bandwidth Flash) в рамках проекта Open Compute Project (OCP). Они продвигают работу по стандартизации HBF для эпохи вывода данных в области искусственного интеллекта.
Архитектурные войны: ARM против полувекового наследия Intel и AMD
Первая часть этой статьи рассказала о том, почему архитектура x86 на протяжении почти полувека оставалась безальтернативным стандартом для серверов, мощных ноутбуков и персональных компьютеров, какие фундаментальные проблемы накопились за годы ее существования и каким образом Apple удалось сдвинуть стагнирующую индустрию с мертвой точки. В продолжении материала — о том, как свежий взгляд инженеров из Купертино подстегнул других крупных игроков рынка пересмотреть подходы к проектированию чипов и как это повлияло на мировую отрасль вычислений.
Сколько токенов в секунду реально выдаёт Mac mini M4
Дисклеймер: я держу сервис аренды маков, поэтому у меня под рукой флот одинаковых машин и повод их гонять. Цифры ниже с этих машин, методика описана полностью, данные открыты под CC BY. Ссылок на сервис в статье нет.Зачем очередной бенчмаркЗапросов «сколько тянет мак» в чатах много, ответов тоже, но почти все без методики: неизвестно квантование, неизвестна версия Ollama, один прогон вместо серии, непонятно, что происходило на машине в этот момент. Такие числа нельзя ни перепроверить, ни сравнить между собой.Я замерил шесть моделей на одной конфигурации и описываю всё, что может повлиять на результат.Методика
Параллельное Программирование, Процессоры, Кэши с Кэйвоном и Кунле
На четвертом курсе Стэнфорда* я записался на урок по параллельному программированию. Изучив алгоритмы, контейнеры данных и математику, стоящую за нейронными сетками, понял, что толком не знаю, что такое микропроцессор. Было очень интересно углубиться в компьютерную архитектуру и понять лучше, как работает то, для чего мы разрабатываем софт и чем пользуемся ежедневно.Преподаватели были одни из лучших в моём опыте в Стэнфорде*. Кэйвон Фатахалиан—эксперт в области графики и производительности, а Кунле Олукотун—пионер в создании многоядерных микропроцессоров.Зачем это всё нужно?
