Октябрьский дайджест — видео и логи запросов в AI Gateway, PR-стенды и серверы с GPU
За окном то дождь, то первый снег — лучшее время остаться дома и разобраться с обновлениями. Тем более что новинок в октябре столько, что одной памяти на всех недостаточно. Поэтому мы выдали ее еще и AI-агентам.Релизов хватит на пару вечеров: видео в AI Gateway, дашборд расходов, стенды для pull request и серверы с видеокартами. А в Амстердаме тем временем закончился переезд. И это только первая половина всего, что было. Смотрим все по порядку ↓❯ Переезд в Амстердаме завершенЗона AMS-1 полностью переехала в дата-центр NorthC. Инфраструктуру перенесли один в один, с теми же конфигурациями и архитектурой.
Глава Nvidia признался в романтических отношениях с потенциальной шпионкой КНР
Генеральный директор Nvidia Дженсен Хуанг признался в романтических отношениях с предполагаемой китайской шпионкой Элис Хуан. Совет директоров американской компании объявил о проведении независимого расследования.
Amazon начала отменять заказы на видеокарты Nvidia и блокировать аккаунты покупателей
Клиент Amazon оплатил четыре рабочих станции Nvidia DGX Spark, но компания отменила его заказы и заблокировала аккаунт пользователя. Генеральный директор Epic Games Тим Суини рассказал об аналогичной проблеме после заказа двух видеокарт Nvidia, но его учётную запись не заблокировали.
В Китае видеокарты Nvidia RTX 5090 используют в качестве доноров для AI‑серверов
Гонконгское издание HKEPC опубликовало видео из мастерской, в которой игровые видеокарты GeForce RTX 5090 целыми партиями переделывают под использование в качестве AI‑серверов. Сотрудники таких мастерских снимают заводскую систему охлаждения, выпаивают графические процессоры и память, а после устанавливают их на другие печатные платы.
Как мы научили ИИ‑агента не выдумывать цифры в отчётах
Это статья о том как мы делали модуль автономного выполнения целей в корпоративном ИИ‑ассистенте KW-7 AI. Цель вместо вопросаОбычно в чате человек задаёт вопрос и получает ответ. В KW-7 AI есть режим целей в котором пользователь ставит задачу крупнее: «Подготовь обзор рынка электромобилей в России: продажи по годам, доля рынка, основные марки, прогноз». Система сама составляет план, ищет в интернете, читает страницы, считает, строит графики и сохраняет отчёт. От пятнадцати минут до часа работы без участия человека.
NVIDIA CMP 50HX: Еще не все потеряно…
ПредысторияЕсть домашний сервер обычной “подстольной” конфигурации. Proxmox с несколькими виртуалками. В какой-то момент прикупил на аукционе NVIDIA CMP 50HX за копейки, ради поиграться с простенькими модельками. Модели запускаю через llama.cpp, дополнительно использую Whisper для распознавания речи. Быстро смирился со скоростью работы и жил с этим всем спокойно несколько месяцев, пока не наткнулся на статью NVIDIA CMP – микроскопы для забивания гвоздей? Копаем глубже….Очень рекомендую прочесть статью
Как ИИ‑бум перестроил рынок компьютерных комплектующих: память, видеокарты и цены в 2 026 году
Ещё пару лет назад комплект DDR5 на 32 ГБ был скучной строкой в сборке ПК: взял, поставил, забыл. Сегодня это одна из самых дорогих позиций, а вопрос «стоит ли апгрейдиться сейчас» превратился в экономическую задачу. Разберёмся, что именно произошло, почему ИИ‑дата‑центры оказались в одной очереди за кремнием с обычными пользователями и что с этим делать тем, кто собирает или покупает компьютер.КороткоГлавная причина подорожания комплектующих — не «спрос на видеокарты для нейросетей», а перераспределение производственных мощностей памяти в пользу HBM и серверной DRAM.
Amazon представила TorchNeuron — инструмент для запуска PyTorch на чипах Trainium
Amazon представила TorchNeuron — открытый программный модуль для переноса моделей машинного обучения на фирменные ускорители Trainium2 и Trainium3. Разработчикам при этом доступны привычные инструменты для обучения, запуска и отладки нейросетей.
