rtx 5090.

В Китае видеокарты Nvidia RTX 5090 используют в качестве доноров для AI‑серверов

Гонконгское издание HKEPC опубликовало видео из мастерской, в которой игровые видеокарты GeForce RTX 5090 целыми партиями переделывают под использование в качестве AI‑серверов. Сотрудники таких мастерских снимают заводскую систему охлаждения, выпаивают графические процессоры и память, а после устанавливают их на другие печатные платы.

продолжить чтение

EmbeddingGemma 2: как перейти с 768 на 512 координат и сэкономить память на RTX 5090

Привет, Хабр!Пять миллионов 768-мерных эмбеддингов в FP32 занимают 15,36 ГБ. На RTX 5090 с её 32 ГБ VRAM это почти половина, причём только под координаты. Поисковому индексу нужна ещё служебная память, а если на той же карте работает модель, место потребуется и ей.У EmbeddingGemma 2 есть возможность сократить этот объём. Последний линейный слой модели преобразует 512 чисел в 768. В точной арифметике его выходы лежат в 512-мерном подпространстве: для их хранения можно выбрать другой базис и оставить 512 координат, сохранив косинусное сходство.

продолжить чтение

У бразильского дистрибьютора электроники украли видеокарты RTX 5090 минимум на $470 тысяч

Бразильский дистрибьютор электроники Oderço сообщил о краже двух деревянных поддонов с видеокартами Nvidia GeForce RTX 5 090 на сумму $470 тыс. из Международного аэропорта Гуарульюс в Сан‑Паулу. Компания призналась, что столкнулась с подобным инцидентом впервые за 38 лет существования.

продолжить чтение

Сколько инструментов показывать языковой модели: гипотеза, которую перечеркнул замер

У нашего ИИ-оркестратора более девяноста инструментов: работа с таблицами, документами, почтой, задачами, веб-страницами, презентациями и т.д.При обработке запросов модель на каждом шаге выбирает, какой из них вызвать. Вопрос, который периодически всплывает: сколько из них ей показывать за раз — все или только те, что подходят к запросу?Наш оркестратор умеет работать как с большими облачными моделями, так и с маленькими, которые помещаются на бытовой видеокарте. Минимальный рабочий вариант: RTX 3090 24Gb + Qwen3.6 27B.

продолжить чтение

Галлюцинации недели: Jev, везде и сразу

продолжить чтение

NVIDIA RTX PRO 5500 Blackwell: RTX 5090 и щепотку VRAM, пожалуйста

NVIDIA молниеносно расширяет профессиональную линейку Blackwell™. Вслед за RTX™ PRO 6000, 5000 и 4000 компания представила RTX™ PRO 5500 Workstation Edition

продолжить чтение

ИИ‑компании массово закупают RTX 5090, а до обычных пользователей доходит малая часть таких видеокарт

Из‑за спроса со стороны компаний в сфере искусственного интеллекта до обычных пользователей доходит лишь малая часть видеокарт Nvidia GeForce RTX 5090. Компании используют эти графические адаптеры для ИИ‑серверов.

продолжить чтение

Тест DeepSeek, Qwen, GLM и прочих LLM на продвинутом пользовательском железе

Привет, Хабр! Еще чуть больше года назад ваш покорный слуга наконец решился обновить комп, приобретя ПК с RTX 5090 и 96Gb RAM, которые, как я тогда думал, окажутся ультимативным решением для запуска всего, что может когда‑либо хотеться запустить. Но с выходом DeepSeek V4 Flash в апреле понял, что оказался в своеобразном «лимбо» — суммарных 128Gb VRAM+RAM хватало либо на запуск модельки в кванте

продолжить чтение

Миллион токенов за 1 ₽ или за 20 726 ₽: одна RTX 5090, и почему API все равно дешевле

Разговор повторяется примерно раз в месяц, с небольшими вариациями.— Мы за API платим уже прилично. Может, купим карту и будем гонять у себя? — Может. Сколько токенов в месяц жжете? — Ну... много.Вот на этом месте всегда наступает пауза. Потому что «много» никто не считал, а без этой цифры весь разговор превращается в обмен ощущениями.

продолжить чтение

Т9 за сотню долларов, ассистент за миллиард: сколько на самом деле стоит обучить LLM с нуля

В октябре 2025-го Андрей Карпатый выложил nanochat — «лучший ChatGPT, который можно купить за $100»: полный пайплайн от токенизатора до веб-чата, четыре часа на арендованной ноде. Еще в декабре 2024-го DeepSeek опубликовал техотчет V3 с цифрой $5,576 млн за обучение. А в конце января 2025-го, на волне выхода R1, заголовки «китайцы сделали GPT-4 за шесть миллионов» несколько дней трясли и прессу, и биржу. А два дня назад прямо здесь, на Хабре, вышла habrGPT — модель 0.5B, обученная с нуля на статьях Хабра на одной RTX 5090, с претрейном за ~6 часов.

продолжить чтение

12