Есть ли жизнь после блокировки Claude Code? Первая неделя на локальных Qwen и DeepSeek
TL;DR. Anthropic в очередной раз заблокировал мой аккаунт, и Claude Code стал недоступен. Я попробовал заменить его локальными Qwen 3.8 Flash Next (1 × DGX Spark) и DeepSeek-V4.1-Flash-1017 (2 × DGX Spark). Замеры TPS/TTFT, рабочий процесс с двумя моделями и вывод — работать можно, но цикл разработки стал занимать значительно больше времени.Железо для экспериментов выделил работодатель — компания, которая сдаёт DGX Spark в аренду. Статья — личный опыт, не реклама.Что случилось
Пытаемся сделать лаборанта из локальной Qwen 3.8 на 16 ГБ VRAM
Котик пытается настроить QwenВ прошлой статье
Помогаем малышке стать сильной: локальная Qwen против облачных флагманов на 16 ГБ видеопамяти
Котик наоптимизировал.В двух предыдущих статьях мы проверяли языковые модели на наших повседневных задачах: работе с данными в электронном лабораторном журнале и исправлении ошибок в трёх закрытых проектах на Delphi
Я дообучил маленькую нейросеть на MacBook, и она стала хуже. Честные цифры
В прошлой статье я рассказывал, как прикручивал Ollama к Lumi — это мой лаунчер в духе Spotlight, который умеет отвечать на вопросы без интернета. В конце я пообещал дообучить самую маленькую модель, lumi-mini, и показать, что получится. Добавил ещё «даже если станет хуже». Как в воду глядел.Сразу скажу: я не ML-инженер. Код пишу вместе с Claude, многое по ходу узнаю сам. Поэтому это не туториал, а скорее дневник эксперимента. Зато все ответы модели ниже настоящие, я сохранял каждый прогон.Зачем вообще
Как превратить Cursor в долговременную память проекта: LLM Wiki, QMD и Cursor CLI
> Практический кейс интеграции LLM Wiki и локального поиска в рабочий процесс Cursor. Ссылка на исходные конфигурации и skills — в конце статьи.Большой контекст в Cursor помогает ровно до момента, когда проект начинает жить дольше одного чата. В одной сессии обсуждается исходная постановка задачи, в другой — устройство витрины, в третьей внезапно выясняется, что показатель должен считаться немного иначе, а ещё через неделю приходится заново объяснять агенту, почему первое очевидное решение уже было отвергнуто.
Лимиты ChatGPT и локальные LLM: мой эксперимент с Hermes Agent
Иногда я за час работы с облачной моделью выбираю весь доступный лимит. Потом ещё четыре часа жду его восстановления. Задача уже в голове, хочется продолжать, но приходится прерываться.В последнее время всё чаще смотрю на следующий тариф ChatGPT за 100 евро. Но жаба душит: прежде чем платить больше, хочется понять, нельзя ли часть работы выполнять на своём компьютере.
Как я подружил llama-server с Claude Code: доработка Go-лаунчера для локальных LLM
ВведениеВ своих прошлых материалах я уже рассказывал о запуске крупных MoE-моделей на ограниченном железе через llama-server и о сравнительных экспериментах с 35B, 120B и 176B-классами моделей. Практика показала, что llama.cpp давно перестал быть просто «запускатором GGUF»: сегодня это полноценный рантайм с OpenAI-совместимым API, поддержкой инструментов, Jinja-шаблонов, спекулятивного декодирования и гибкого CPU/GPU-offload. Единственное, чего ему не хватало для повседневной работы, — удобной обвязки, которая избавила бы от ручного набора десятка флагов при каждом старте.Именно поэтому у меня появился небольшой лаунчер на Go:
Офлайн-ИИ в десктопном приложении: что я узнал, встраивая Ollama в лаунчер для трёх ОС
Я делаю Lumi, открытый лаунчер в духе Spotlight: по горячей клавише открывается строка, в которой можно запустить программу, найти файл или задать вопрос нейросети. Честно скажу сразу: код я пишу вместе с Claude, сам я не программист. Но тесты, цифры и ошибки ниже настоящие, и о них хочется рассказать.Задача была такая: человек без опыта нажимает одну кнопку и получает ИИ, который работает без интернета. Ему не нужен терминал и не нужно знать, что такое Ollama. Дальше расскажу, что из этого вышло и обо что я споткнулся.1. Какую модель выбрать: тест четырёх кандидатовКандидаты: gpt-oss 20B, Qwen 3.5 9B, Gemma 4 E2B
