Qwen и локальные нейронки на Mac mini. Зачем и почему?
Зачем мне вообще локальная нейронка? Я объясню. Значит, есть какие-то задачи, когда в мои проекты или куда-то нужно получать от различных нейронок API-ключ, в некоторых ситуациях он стоит каких-то денег за запрос. В некоторых ситуациях, допустим, если подключать API Клода или ChatGPT, например, для изготовления презентаций или PDF-файлов, это может доходить до 3$ за файл, или если 10 запросов, это может стоить и 1$. Чтобы это всё делать бесплатно, и нужна локальная нейронка. Потому что API-ключ ты можешь выдавать себе сам, получается, и не нужно использовать какие-то сторонние облачные серверы для этого.
Путь к локальному LLM — модель которую я наконец-то реально использую каждый день
Путь к локальному LLM: как требвоания по ИБ и “дух авантюризма” привели меня к 125B-модели под столом - и почему агенты больше не просят облако
Когда закончится безумие и чего ждать от цен на оперативную память и видеокарты?
Я не аналитик (хотя по образованию системный), не эксперт и уж точно мои советы не являются инвестиционной рекомендацией. Эта статья - просто частное мнение обычного человека.Давайте посмотрим на текущие тенденции рынков широким взглядом, потому что то, что комплектующие уже год как дорожают из-за кризиса памяти мы видим узким заплаканным взглядом. Сегодня, чтобы выгодно купить ПК, нужно изучить рынки, понять ситуацию с политикой и инвестициями, углубиться в машинное обучение, узнать о личной жизни Дженсена Хуанга и погадать на таро. Последнее предпочтительнее остальных.
Microsoft запатентовала платформу для обучения ИИ на видеокартах пользователей
Microsoft опубликовала
AMD тестирует технологию MEXT для использования данных из DRAM на SSD
AMD тестирует технологию MEXT, которая обеспечит производительность на уровне 99% от максимума при использовании вдвое меньшего объёма оперативной памяти (DRAM) — при условии, что вместе с новым сервером на базе процессора Epyc приобретается лицензия на программное обеспечение.
RTX 5090 на 96 ГБ: разбираемся с характеристиками, которые не сходятся
При нехватке памяти скорость генерации падает в десятки раз, а мощные видеокарты, способные это исправить, сегодня в дефиците и цена не радует. Поэтому китайские компании предлагают модифицированные варианты типовых GPU, наращивая память на 4090 и 5090 видеокартах, в два - три раза. Мы решили посмотреть, какие модифицированные карты с увеличенным объемом памяти есть на рынке и какие официальные версии они могут заменить, заодно сравним с профессиональными GPU, для которых память в 48Gb или 96Gb являются базовыми характеристиками. RTX 5090 с 96 ГБ
В Huawei заявили о создании компьютера, на 100% состоящего из китайских компонентов
Huawei представила
Глава Nvidia признался в романтических отношениях с потенциальной шпионкой КНР
Генеральный директор Nvidia Дженсен Хуанг признался в романтических отношениях с предполагаемой китайской шпионкой Элис Хуан. Совет директоров американской компании объявил о проведении независимого расследования.
Альтман опроверг свои слова о необходимости отбирания оперативной памяти у пользователей
Генеральный директор OpenAI Сэм Альтман ранее назвал наличие больших объёмов оперативной памяти в персональных компьютерах «ужасным» явлением с точки зрения глобального распределения ресурсов. Это вызвало резкое недовольство среди энтузиастов ПК. Позже топ‑менеджер попытался прояснить свою позицию, заявив, что его слова были «вырваны из контекста».

