Open source. - страница 41

Как мы запустили 35B LLM на видеокарте за $500: внутри ZINC inference engine

Год назад запуск модели на 35 миллиардов параметров подразумевал облако, очередь на GPU, и счёт от провайдера в конце месяца. Сегодня я покажу, как мы сделали это на одной потребительской видеокарте AMD за $500 — без ROCm, без CUDA, без MLX, одним бинарником на Zig.Это пост про ZINC — inference engine, который мы строим с нуля под железо, которое люди реально покупают. Не как proof of concept, а как рабочий инструмент с OpenAI-совместимым API, потоковой генерацией и встроенным чатом.

продолжить чтение

OpenClaw переписали на Go и уместили в один бинарник на 35 МБ. Зачем и что это даёт

OpenClaw — Node.js. Это значит: установи Node, установи npm, склонируй репо, npm install, подожди пока 800 МБ node_modules скачается, настрой конфиг, запусти. Если что-то сломалось — разбирайся с версиями Node, конфликтами зависимостей, нативными модулями.Кто-то посмотрел на это и решил переписать всё на Go. Результат — GoClaw: один бинарный файл на 35 МБ, который скачал, дал права на запуск и работаешь. Никаких зависимостей, никакого рантайма, никаких node_modules.Разбираю, что внутри и имеет ли это смысл.Что такое GoClaw

продолжить чтение

OpenAI предложила для США налог на роботов, public wealth fund и 4-дневную неделю как ответ на AI-экономику

продолжить чтение

Google тихо выпустила офлайн-диктовку с ИИ для iPhone

продолжить чтение

Великобритания пытается переманить Anthropic на фоне конфликта компании с Пентагоном

продолжить чтение

Microsoft перепишет условия Copilot после критики формулировки про «развлечение»

продолжить чтение

ИИ в Новосибирском метро возьмется за графики локомотивных бригад

продолжить чтение

ИИ против плохого сигнала: Yadro показала систему оптимизации сотовой сети

продолжить чтение

PocketCoder-A1: Как я заставил свой Claude работать в три смены

ИИ не заменяет людей, люди просто больше работают. Так давайте хотя бы ночью пусть работает ИИ.Так вышло, что я плачу 100 евро в месяц на Claude Code. Солидная сумма, которая растворяется практически момоментально, когда твой аккаунт превращается в полигон из 10+ проектов, где 7-8 мои, а 2-3 моей жены.Шеринг подписки вообще занятие затратное, но мне не жалко.

продолжить чтение

AI для умного дома: что уже работает сегодня (часть 1)

В статье — не просто список инструментов, а как они сочетаются, какие подводные камни ждут при развёртывании, какие цифры можно ожидать по производительности и как обойти ограничения Llama 8B без облачных кредитов.1. Ollama — локальные LLMOllama запускает большие языковые модели на вашем сервере. Без облака, без API-ключей.Зачем в умном доме: понимание естественного языка. «Включи свет в гостиной» → модель извлекает намерение и сущность, можно передать в HA.Ресурсы:

продолжить чтение