Локальные нейросети: своей видеокарты хватает на офис — если знать, зачем она
6 ноября 2026 веб-студия «Флаг» провела открытую лекцию про локальные AI-модели. Спикер — Саша Андреев (t.me/andr33vru): технический директор на аутсорсе, руководит студией заказной разработки и сам гоняет модели на RTX 3090. Ведущий — Миша Радионов, «Флаг Софт».Ниже — разбор того, о чём шла речь. Без магии и без «купите карту прямо сейчас».Зачем вообще локальноеОблачные модели умнее. Claude, Codex и компания тянут задачи, на которые бытовая видеокарта пока не претендует. Но умность — не единственная метрика.
Рабочее место с анцензорной Qwen3.8-Flash-Next (125 млрд параметров) за 43 тысячи рублей: GTX 1070 8ГБ, 128 озу и Xeon
Есть у меня отдельная машина: материнка под Xeon E5-2696 v4 (22 ядра, 44 потока), 128 ГБ DDR3-1600 и видеокарта GTX 1070 на 8 ГБ. Плата с процессором и памятью обошлась примерно в 35 тысяч рублей, карта — ещё 8 тысяч с рук. Итого — тысяч 43 за всё, железо уровня “давно списано из майнинг-фермы и дата-центра”.На этой штуке я запустил Qwen3.8-Flash-Next — MoE-модель на 125 миллиардов параметров (~6 млрд активных на токен) — и она реально работает. Не “теоретически запускается с квантованием до состояния овоща”, а выдаёт 14-15 токенов в секунду генерации на контексте 24,5К. Честно, не ожидал.
Продолжаю разработку расширения для Chrome по обезличиванию персональных данных с Docx Anonymizer
Начало тут. Привет всем и трем моим подписчикам! Кто вы, герои? )Вообще, я писал уже, что изначально я планировал сделать расширение только для договоров. Почему? Да потому что там проще всего распознавать персональные данные, так как они располагаются по понятной логике, которую довольно легко определить простой эвристикой.
Помогаем малышке стать сильной: локальная Qwen против облачных флагманов на 16 ГБ видеопамяти
Котик наоптимизировал.В двух предыдущих статьях мы проверяли языковые модели на наших повседневных задачах: работе с данными в электронном лабораторном журнале и исправлении ошибок в трёх закрытых проектах на Delphi
INT8 не виноват: как мы мерили сэмплеры на квантованных flow-моделях и опровергли собственную идею
Если вы запускаете модели вроде Flux или Qwen-Image на домашней видеокарте, вы почти наверняка используете квантованные веса. И почти наверняка встречали совет: «на квантованной модели не берите навороченные сэмплеры, они накапливают ошибку». Мы решили проверить, правда ли это, и получили результат, который оказался неудобен для нас самих.Коротко:настоящие INT8-ядра ComfyUI добавляют шум, который почти не виден в итоговой картинке;шум этот белый, то есть между шагами не коррелирован, и именно поэтому его усиливают методы высокого порядка;гораздо сильнее влияет выбор сэмплера и CFG;
Как не нарушить 152-ФЗ при проверке договора с помощью ИИ или обезличивание персональных данных c Docx Anonymizer
Вопрос в последнее время становится крайне актуальным, так как чаты с искусственным интеллектом стали обыденностью не только в обычной жизни, но и в работе.
Терминал, которого нет: я научил модель на 360M параметров изображать bash, vim и tmux
Коротко: я дообучил языковую модель на 360 млн параметров работать терминалом. Никакого шелла и файловой системы за ней нет: на вход идёт каждое нажатие клавиши, а модель предсказывает, как изменится экран. Она умеет создавать файлы, запускать vim и tmux, играть в змейку и обычно помнит, что вы написали несколько команд назад. Больше всего дали два приёма: научить модель исправлять собственные ошибки и декодировать строки экрана параллельно. Попробуйте в браузере (208 МБ) и наберите pythoon, чтобы убедиться, что это не настоящий шелл.
Лимиты ChatGPT и локальные LLM: мой эксперимент с Hermes Agent
Иногда я за час работы с облачной моделью выбираю весь доступный лимит. Потом ещё четыре часа жду его восстановления. Задача уже в голове, хочется продолжать, но приходится прерываться.В последнее время всё чаще смотрю на следующий тариф ChatGPT за 100 евро. Но жаба душит: прежде чем платить больше, хочется понять, нельзя ли часть работы выполнять на своём компьютере.
С нуля до чипа: программирование FPGA на t27
27 состояний, 27 уроков: как спека на t27 превращается в битстрим на настоящей Artix-7 — без VivadoTL;DR. Большинство курсов по FPGA начинаются со слов «установите Vivado». Мы пошли с другого конца: в каждом из 27 уроков есть рабочий виджет, собранный из реальных запусков на нашем стенде. Сначала разбираем, что такое FPGA и как числа становятся битами. Потом пишем спеку на t27, компилируем её t27c и превращаем в битстрим на плате. В конце — лаборатория из трёх уроков о наших собственных исследованиях, включая результаты, которые нам не понравились. Каждая картинка ниже — снимок живого виджета; нажмите, чтобы открыть его.
