Техно‑аквариум в стиле адской Обители: запускаем локальную LLM Qwen 2.5 14B на домашнем ПК для интерактивного сайта
Пролог. Зачем Создатель создает? Сегодня уже никого не удивить нейросетью — из каждого утюга только о них и слышно. Хоть видео, текст, генерация кода. Уже приходится всматриваться в экран, чтобы понять: перед тобой настоящая фотография или работа ИИ. Народ и дома, и на работе вовсю позаводил себе локальные нейронки. Короче, решил и я не отставать.А зачем? Потому что могу. Или хочу узнать смогу ли. Для какой‑то самореализации, интересно пройти этот путь.
Вместе с Claude сделал бесплатный Spotlight с ИИ для Mac и Windows: ищет файлы и отвечает на вопросы в одной строке
Каждый день я делал одно и то же: открывал Spotlight, чтобы найти файл или запустить программу, а потом лез в браузер, открывал вкладку с ИИ и вставлял туда вопрос. Два разных места для одного действия — «мне нужно что-то быстро». Захотелось, чтобы это была одна строка: нажал клавишу, напечатал — и если это файл, он открывается, а если вопрос, отвечает нейросеть.Так появилась Lumi — бесплатная программа с открытым кодом для macOS и Windows. Сделал я её не один, а вместе с ИИ-ассистентом Claude Code: о том, как это было, — в конце статьи.Что умеетОдна клавиша на всё. Строка открывается по ⌥ Ё на Mac и Alt+Ё
Агентный поиск на open-source моделях: кого нашёл, сколько потратил и где всё сломалось
У меня давно была одна идея: хочу сделать свой агентный поиск на открытых моделях и со своим контролем над источниками. Не чтобы сэкономить на подписке, а скорее понять: какой минимум (технологического стека) нужен, чтобы агент нашел конкретную информацию, с проверяемым источником и не выдумал ссылку?
В Ollama добавили поддержку локальных Jev‑подобных моделей
В Ollama появилась поддержка Jev‑подобных моделей, которые выбирают ответ из заданных вариантов и возвращают оценки вероятностей. Функцию добавили в версии 0.35, а сами модели работают полностью локально.
Нейросеть написала PR, тесты зелёные, а поведение изменилось. Как я научил CI это ловить
Отчёт confidence‑scorer: найден контрпример, score 35/100
Как запустить Gemma на сервере: сравниваем Ollama и llama.cpp
Откройте любую статью-инструкцию по установке LLM, в которой фигурирует Ollama. Уверен, в комментариях к ней автору уже объяснили, насколько он неправ и что единственное верное решение — использовать llama.cpp.
Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL
Робот может написать симфонию?Полгода назад мне понадобился личный AI помощник (знаю...звучит слишком пафосно и мне самому это словосочетание не нравится) для работы на своем ноутбуке на Windows.
Своя нейросеть дома, доступная из любой точки мира
Надоели лимиты токенов, дорожающие подписки и ощущение, что каждый запрос логируется. Дома стоит нормальная машина — почему бы модели не крутиться на ней? Рассказываю коротко, как собрать личный LLM-сервер.ЖелезоCPU 8 ядер, 32 ГБ RAM
Хотел свою систему, которую можно менять когда угодно, и сделал три десктопных AI-приложения
Хотел свою систему, которую можно менять когда угодно, и сделал три десктопных AI-приложенияПривет, Хабр! Это моя первая статья, и она про Zeqou: небольшую экосистему десктопных приложений для работы с языковыми моделями. Два приложения уже готовы, третье выйдет совсем скоро. Расскажу, что они умеют, как устроены и с какими неожиданными проблемами я столкнулся.Коротко. Zeqou — это три приложения: чат, рабочее пространство для агентов и студия дообучения моделей. Они бесплатные и работают на Windows, macOS и Linux. Чат и Harness готовы, xtraining выйдет очень скоро.Зачем всё этоЯ всегда хотел иметь
