Qwen и локальные нейронки на Mac mini. Зачем и почему?
Зачем мне вообще локальная нейронка? Я объясню. Значит, есть какие-то задачи, когда в мои проекты или куда-то нужно получать от различных нейронок API-ключ, в некоторых ситуациях он стоит каких-то денег за запрос. В некоторых ситуациях, допустим, если подключать API Клода или ChatGPT, например, для изготовления презентаций или PDF-файлов, это может доходить до 3$ за файл, или если 10 запросов, это может стоить и 1$. Чтобы это всё делать бесплатно, и нужна локальная нейронка. Потому что API-ключ ты можешь выдавать себе сам, получается, и не нужно использовать какие-то сторонние облачные серверы для этого.
ИИ‑агент уверенно ошибается, а ИИ‑проверяющий говорит: всё в порядке
ИИ‑агент, тест и ИИ‑проверяющий: три разных ошибки в одном эксперименте
Мобильный Kmp клиент для Ollama server
Ollama server настройкаУстанавливаем ollama serverbrew install ollamaUbuntu#curl -fsSL https://ollama.com/install.sh | shЗапускаем сервер. Если требуется чтобы сервер был доступен не только на локальной машине, но и на эмуляторе или c любого телефона в сети надо добавить: OLLAMA_HOST=0.0.0.0 тогда к серверу можно будет обращаться через IPOLLAMA_HOST=0.0.0.0:11434 ollama serveЗагружаем модели. Например gemma4:12bollama pull gemma4:12bПроверяем что сервер запущен и модель доступна. Для MacBook на чипе с ARM архитектурой cкачиваем mlx модели.
Гига Писарь в Google Play и как не словить бан
Привет, Хабр!Короткая новость: Гига Писарь для Android теперь ставится из Google Play Ссылка: https://play.google.com/store/apps/details?id=ru.gigapisar. Версия с GitHub никуда не делась, обновляется сама и живёт параллельно, но большинству проще из магазина.В прошлой статье я писал, что Google требует от новых аккаунтов две недели закрытого теста с двенадцатью участниками, я позвал вас, и в группу пришло гораздо больше, спасибо всем, кто гонял Писаря и репортил что не так, ну и теперь Google открыл приложение для всех, в 178 странах.Нас могли забанить
На синтетике 0 ложных эскалаций, на реальном потоке 39 из 100: как я делал локального L1-аналитика SOC
На моём тестовом наборе модель показывала 55 из 55 верных вердиктов и ни одной ложной эскалации. Потом я дал ей 100 реальных алертов с лабораторного стенда Wazuh. Она зря подняла на вторую линию 39 из них и к некоторым дописала инцидент, которого не было.Этот разрыв определил всю дальнейшую работу. Ниже что я построил, какие цифры получил и чего эти цифры не доказывают. Код и веса открыты: GitHub, Hugging Face.Задача
Как я чуть не спалил MacBook, пытаясь развернуть ИИ-агента локально
Знаете это чувство, когда читаешь статью про локальные LLM и думаешь: «А, ну это же просто. Поставлю Ollama, тяну модель, и у меня уже свой ИИ-агент, который знает весь код»?Я думал именно так.Меня зовут Егор Лаптев, я QA Fullstack Java в SENSE на проекте крупного российского банка. У меня MacBook Pro M2 Pro с 32 ГБ RAM: не topical машина, но для разработки рабочая лошадка. Даже не подозревал, что через 20 минут после запуска модели ноутбук будет звучать как истребитель на взлёте, а температура процессора будет такой, что можно было бы варить яичницу на крышке.
Легкие LLM на CPU: какие задачи реально решать на недорогом VPS
Фронтирные модели, в которых компании ежедневно сжигают миллиарды токенов, становятся все более монструозными и дорогими. Экономика и законы о ПДн подталкивают бизнес к идее локального инференса. Но запуск большой открытой модели требует сложной инфраструктуры и дорогих GPU (которые еще попробуй найди!). Хорошая новость в том, что для многих бизнес-задач – разобрать обращения, достать контакты из письма, оценить отзыв – фронтирные модели избыточны. Это все равно что забивать гвозди микроскопом. А легкие модели размером 1–4B работают и на обычных процессорах.
Локальный ИИ на Windows в один клик: установщик Ollama с подбором модели под железо на Python и pywebview
Запустить нейросеть у себя дома сегодня несложно, но не с первого раза. Нужно найти и поставить Ollama, понять в терминале, какую из сотни моделей брать под свою видеокарту, не ошибиться с тегом, дождаться скачивания на несколько гигабайт, а потом ещё и добыть интерфейс. Родственникам и знакомым, которые просят «поставь мне такой же ИИ, как у тебя», всё это не объяснишь за пять минут. Поэтому я написал программу Local AI: она смотрит на железо, подбирает модель, ставит Ollama и модель одним кликом и открывает обычный чат. Ниже — как она устроена и какие грабли попались по пути.
