llm. - страница 28

llm.

Настройка и пример работы LLM на встроенном NPU мини‑компьютера с Intel Core Ultra 5 226V

Подопытный — мини‑ПК Ninkear L20 на Intel Core Ultra 5 226V с 16 ГБ памяти. В статье будет установка и настройка OpenVINO, запуск Qwen3-8B на NPU, замеры скорости и мощности по счётчикам самого процессора и сравнение с дорогой видеокартой RTX 5070 Ti. Плюс практическая часть: обработка фотографий, 3D‑рельеф из фото, озвучка книг TTS, Blender и печатная плата. Всё работает локально, без утечек данных в интернет и без оплаты подписок.

продолжить чтение

Локальный вайбкодинг на ноутбуке: Ryzen 9 и RTX5070 против Qwen3-Coder

Подписки на ИИ-ассистентов для кода дорожают, лимиты режут, а код при этом уезжает на чужие серверы. Я решил проверить, можно ли вайбкодить полностью локально на обычном игровом ноутбуке. Проверять буду на Maibenben X18A с R9-8945HX и RTX 5070 на борту. Задача простая - запустить Qwen3 Coder, подключить к нему агента для программирования и посмотреть, что из этого выйдет.

продолжить чтение

Go в продакшене 2026: как язык вырос из микросервисов

Привет, Хабр! На связи Илья Данилкин, тимлид в Авито Авто.

продолжить чтение

Как мы перестали хардкодить модели: effort-маршрутизация, авто-выбор сложности, фолбэки и лимиты расходов

Самая дорогая строчка в микросервисе с LLM — model="gpt-4o".

продолжить чтение

Как я подключил Hermes Agent к серверам, Obsidian, почте и разделил на Telegram-ботов

❯ Мои проблемы

продолжить чтение

Я подсвечивал нейроны крохотного ИИ, чтобы понять, когда тот врет

продолжить чтение

В релизе LiteLLM 1.107.0 обнаружены инфостилер и бэкдор

21 октября 2026 года релизный конвейер LiteLLM был скомпрометирован. В течение нескольких часов в PyPI, Docker Hub и GitHub Container Registry (GHCR) распространялась версия 1.107.0 с инфостилером и бэкдором. Проект удалил вредоносные артефакты и опубликовал разбор атаки. Об инциденте также писал «Хакер», а на Хабре

продолжить чтение

AI-менеджер для WB, Ozon и Маркета: отдали решения агенту и сразу его ограничили

Недавно мы рассказывали, как собрали AI-менеджера маркетплейсов на правилах : фраза проходит через регулярки, превращается в операцию из закрытого списка, операция идёт в API площадки. Модель там только помогала угадать операцию. Всё, что меняет кабинет, — только кнопкой владельца.Первые владельцы с ним поговорили. Ниже — что мы увидели в этих разговорах, почему переделали менеджера почти с нуля и почему новая версия получилась свободнее, но при этом вся в ограничителях.Что показали первые разговорыЛюди пишут не по списку.

продолжить чтение

Фаззер против ИИ-агента на V8: 37 и 45 уязвимостей за полгода, общих — четверть

КраткоМы в Project Zero сравнили два автоматических инструмента, которыми Google постоянно ищет уязвимости в V8, JavaScript-движке Chrome. Fuzzilli — генеративный фаззер для JavaScript-движков, BigSleep

продолжить чтение

The Bitter Lesson Ate Your AI Factory

For every AI workflow we define, the next model makes it useless.What’s worse: most of us keep clinging to the outdated workflows for months after they’ve outlived their usefulness.Remember how everyone was excited about AI code completion? How about prompt engineering? Harness engineering? Spec-driven development? Loop engineering? Software factory? Dark factory? They are all dead because of the bitter lesson. To summarize it: no matter what “domain knowledge”, “harness”, or “workflow” you try to integrate above your AI model, it will be outshone by just a larger, smarter model. This happened in chess when the program that beat Kasparov in 1997 won with massive, deep search, not with the human understanding of chess that most researchers had spent years encoding. And it keeps happening to us today.That’s why whenever somebody tries to build yet another factory or a really constraining skill, I roll my eyes since modern models perform worse

продолжить чтение