оптимизация. - страница 3

Полез в исходники vLLM, чтобы понять, почему один символ убивает prompt caching

В первой части я вывел одно правило и предложил жить по нему: стабильное в начало, изменчивое в хвост

продолжить чтение

Microsoft может уволить около 5500 сотрудников, в том числе подразделения Xbox

Microsoft готовится

продолжить чтение

Операционная Система Вселенной

Привет, Хабр!Сегодня я хочу поговорить об оптимизации. Но не о том, как ускорить ваш скрипт на Python или ужать базу данных. Давайте замахнемся на архитектуру повыше. Поговорим о том, как спроектирована наша реальность, если посмотреть на неё глазами хардкорного embedded-разработчика, у которого критически мало оперативной памяти, но бесконечная задача на выходе.

продолжить чтение

Сказ о том, как нейросеть занялась reward hacking прямо у меня на кухне

С чего все началось

продолжить чтение

Нужно ли использовать Qwen? Качество и цена

Текст носит юмористический характер и написан для @mahmud90 и @MountainGoatКитайские модели стоят в разы дешевле западных — и каждый месяц кто-нибудь спрашивает: а можно ли просто пересесть на Qwen и не платить за Claude с GPT? Я взял одну реальную задачу и прогнал её через три модели сразу, а потом свёл качество с ценой. Ниже — что получилось и кому Qwen реально подойдёт.Задача одна на всех: разобрать топ-10 heap alloc_objects

продолжить чтение

Гендиректор Coinbase рассказал, как наращивать использование нейросетей, не раздувая бюджеты на токены

Гендиректор криптобиржи Coinbase Брайан Армстронг

продолжить чтение

ИИ замещает ИТ специалистов. Могут ли компании рассчитывать на квалифицированный персонал в будущем?

Кафедра компьютерных наук Калифорнийского университета в Беркли на днях опубликовала худшие показатели неуспеваемости за последние годы. В весеннем семестре 2026 года 35,3% студентов курса CS10 получили неудовлетворительные оценки, тогда как в предыдущие годы этот показатель не превышал 10%.Профессор Дэн Гарсия считает, что главная причина — резкий рост академической нечестности, связанной с использованием ИИ. Студенты поручают языковым моделям выполнение домашних заданий, не осваивают материал, а затем проваливают экзамены.

продолжить чтение

Что именно делал компилятор: как ассемблер помогает разобраться в производительности кода на C++

Расскажу вам одну историю о том, как смог прокачаться в качестве C++-программиста. Мне в этом помогло не чтение стандарта. Я тогда ещё не понимал до конца метапрограммирование с использованием шаблонов (честно говоря, прямо сейчас эту тему изучаю). Нет, просветление наступило, когда я всмотрелся в целую простыню кода на ассемблере x86–64, но не запаниковал, а подумал: “O, нет, нет. ЧТО ТАМ сделал компилятор?”

продолжить чтение

Wix уволит около 20% своих сотрудников из-за внедрения ИИ

Израильская компания Wix объявила о сокращениях, ссылаясь на «быструю эволюцию» искусственного интеллекта. Она уволит около 20% сотрудников или 1000 человек. Всего в Wix работает 5277 сотрудников.

продолжить чтение

Трансформер в on-premise AppSec: как мы встроили ML-модель для классификации секретов в продукт без GPU

TLDR; Рассказываем, как мы интегрировали CodeBERT-based модель классификации секретов в production-продукт с жёсткими ограничениями по железу, сократив время инференса с 320 до 90 секунд и размер модели с ~600 до ~130 МБ — без дискретных ускорителей и тяжёлых зависимостей.

продолжить чтение

123456...10...11