Своя нейросеть дома, доступная из любой точки мира
Надоели лимиты токенов, дорожающие подписки и ощущение, что каждый запрос логируется. Дома стоит нормальная машина — почему бы модели не крутиться на ней? Рассказываю коротко, как собрать личный LLM-сервер.ЖелезоCPU 8 ядер, 32 ГБ RAM
Hermes оказался для меня игрушкой
Делюсь опытом эксплуатации Hermes в домашней лаборатории и выводами, к которым пришёл в процессе.ОглавлениеПозиционированиеХорошее применение (почти)Что я сам бы не смог сделать
Чему меня научили два месяца с легковесным локальным AI-агентом
Raspberry Pi на Mac mini - оба гоняют openLight, оба маленькие, оба всегда онлайн.Когда я писал первую статью на Хабр про openLight в марте
Почему большинство AI-агентов плохо работают на Raspberry Pi (и как я попытался это исправить)
Проблема: тяжёлые AI-агенты на маленьком железеПоследнее время я экспериментировал с AI-агентами на Raspberry Pi 5.И довольно быстро столкнулся с проблемой: большинство существующих агентных фреймворков оказываются слишком тяжёлыми для небольшого железа.Типичная архитектура таких решений включает:Python-фреймворкнесколько фоновых сервисовorchestration слойиногда векторную базудовольно сложную конфигурациюНа сервере это нормально работает. Но на Raspberry Pi всё начинает ощущаться иначе:долгий стартлишние зависимости
Самохостинг и технологическая независимость
Посмотрев два видео PewDiePie, в которых он узнал об установке Arch (задача эта считается довольно сложной даже для любителей Linux) и о
