QAD от NVIDIA: разбираюсь, почему 4-битная квантизация перестала всё ломать
На прошлой неделе NVIDIA выложила отчёт про QAD и я его проигнорировал. Потому что каждый месяц кто-то "решает квантизацию" и каждый раз на практике всё не так радужно.Но потом коллега скинул табличку с AIME и я залип.Контекст такой. У нас на проде крутится модель на FP8, всё более-менее ок, но менеджмент хочет запихнуть 49B модель туда, где сейчас живёт 20B. Потому что "ну там же Blackwell, там же FP4, давайте". Я месяц назад попробовал наивно квантизовать в 4 бита — модель начала нести пургу на математике. Не сильно, но заметно. Закрыл тему, сказал что FP4 не готов.И тут этот отчёт.Что вообще происходит
IBM превзошла прогнозы Уолл-стрит благодаря спросу на ИИ, а мейнфреймы показали лучший старт продаж за всю историю
IBM опубликовала
Proof of Corn: сможет ли ИИ вырастить кукурузу
Классический спор двух инвесторов стал причиной запуска интересного проекта. В прошлый вторник, после совместного ужина Фред Уилсон
OpenAI анонсировала три революции: персональный врач, умный ассистент и новая эра мышления
Пока все отвлечены драмой в руководстве, OpenAI тихо запустила функции, которые могут изменить здравоохранение и уничтожить офисную работу
AI-темплейты для Obsidian Templater для развития знаний
Продолжаем исследовать возможности технологии LLM для повышения эффективности работы человека-пользователя и работы человека-программиста, для открытия новых способов взаимодействия с информацией и, как эксистенциальная цель (сверх-цель), для открытия новой супер-информации и продвижения человечества на шаг вперед по лестнице прогресса...
Бесплатный AI-инструмент для концепт-дизайна интерьеров с помощью ИИ (Nano Banana Pro)
Всем привет!Если вы ранее читали мои статьи, то знаете, что я занимаюсь вайбкодингом для разработки полезных в моей оффлайн работе инструментов на основе ИИ. Это не проф разработка, а скорее хобби с практическим применением.Эта статья не будет про технику (хотя немного технических аспектов поведаю). Просто небольшой обзор небольшого инструмента, который я хочу отдать в массы.
Дартмутский семинар
Откуда берутся новые науки?Они возникают в курилках, когда ученые болтают о том, о сём, и между ними возникают новые идеи на стыке наук.Они появляются в научных журналах, когда один ученый с трепетом в душе выносит на широкую публику странные и никуда не вписывающиеся результаты своих исследований.Они оформляются в суете бюрократически-кафедральных процессов, когда оказывается, что какое-то направление занимает слишком много места, в нём уже сформировалась своя система терминов, методов и направлений исследований – и тогда руководители просто фиксируют уже сложившийся факт.
Deepseek OCR 2 сокращает количество визуальных токенов на 80%
Китайская компания Deepseek, специализирующаяся на искусственном интеллекте, представила новый кодировщик изображений, который перестраивает информацию на основе смысла, а не обрабатывает ее в жестком порядке сверху вниз и слева направо.
«Я и сам своего рода ученый» — получит ли ИИ нобелевку к 2050-му?
Способны ли нейронки делать самостоятельные открытия — на этот счет мнения ученых расходятся. Пока одни запускают инициативы вроде The Nobel Turing Challenge, другие применяют LLM в куда более приземленных сценариях. Мы в Beeline Cloud решили посмотреть, чего уже добились «ИИ-ученые» и как использовать их потенциал в мирных целях: в конце статьи есть подборка профильных open source-инструментов, которые могут облегчить работу по анализу и подготовке научных статей и исследований.
