локальный ИИ.

Как я строил домашний ковчег нейро-вычислитель

продолжить чтение

Локальный ИИ на Windows в один клик: установщик Ollama с подбором модели под железо на Python и pywebview

Запустить нейросеть у себя дома сегодня несложно, но не с первого раза. Нужно найти и поставить Ollama, понять в терминале, какую из сотни моделей брать под свою видеокарту, не ошибиться с тегом, дождаться скачивания на несколько гигабайт, а потом ещё и добыть интерфейс. Родственникам и знакомым, которые просят «поставь мне такой же ИИ, как у тебя», всё это не объяснишь за пять минут. Поэтому я написал программу Local AI: она смотрит на железо, подбирает модель, ставит Ollama и модель одним кликом и открывает обычный чат. Ниже — как она устроена и какие грабли попались по пути.

продолжить чтение

Opera добавила в браузер поддержку WebAI для работы с ИИ‑моделями локально на ПК

Opera начала внедрение в свои браузеры поддержку WebAI для локальной работы с моделями искусственного интеллекта на ПК. Первые возможности уже доступны в Opera One, а в дальнейшем они появятся в Opera GX и Opera Neon.

продолжить чтение

Проходим тесты hh.ru с помощью локального ИИ

На сайте Хэдхантер можно пройти тесты навыков, результаты которых должны выделять успешных кандидатов среди «основной массы». Эти же тесты входят в национальную систему подтверждения ИТ‑компетенций, а на Госуслугах за них можно получить электронный сертификат. Звучит солидно и крайне полезно, но насколько вообще репрезентативны эти тесты в современных условиях бума ИИ? Давайте разберемся.

продолжить чтение

OpsDeck за три недели: ИИ‑агент, который сам ходит на хосты, и ещё восемь релизов

OpsDeck за три недели: ИИ‑агент, который сам ходит на хосты, и ещё восемь релизов

продолжить чтение

12 спрайтов и 61 цвет: как нейросеть собрала пиксель‑арт‑маскота для сайта из черновиков Qwen Image 2.1

Нейросеть нарисовала ведьму, которая выглядит как пиксель‑арт. Спрайтом она не является: в файле 1344×1344 и 40 318 уникальных цветов (это кадр read), а сетки, по которой эти «пиксели» выстроены, не существует. Это принципиальная разница, и она не косметическая: картинку «под пиксели» нельзя перекрасить в ночную палитру одной операцией, нельзя анимировать по кадрам и нельзя гарантировать, что при смене эмоции персонаж не дёрнется. Ниже — пайплайн, который превращает такие черновики в спрайты, где один пиксель — это ровно один цвет из палитры

продолжить чтение

Локальный запуск Qwen-Image-2.1 без safety checker: тест на MacBook Air с 16 ГБ памяти

Команда Qwen из Alibaba выпустила Qwen-Image-2.1 — модель для генерации и редактирования изображений на базе diffusion transformer с 7 млрд параметров, поддержкой нативного вывода до 2K и лицензией Qwen Research License. Она умеет генерировать изображения по текстовому описанию, редактировать их с использованием до десяти референсов и заметно лучше многих открытых альтернатив работает с китайским текстом. В сообществе доступны сборки без встроенного content filter: промпты, веса модели и результаты генерации при локальном запуске остаются на компьютере пользователя.

продолжить чтение

Домашний ИИ: простой способ добавить «интеллект» своему компьютеру

В этой статье мы рассмотрим открытые модели машинного обучения. Они не требуют обязательного подключения к интернету и подписки, никуда не передают ваши данные и достаточно компактные, чтобы их можно было запускать на ПК или ноутбуке. Эксперименты выполнялись на ПК с Core i5-14600, 32 ГБ DDR5 и RTX 3070Ti c 8 ГБ VRAM. Комментарии подготовлены экспертами лаборатории искусственного интеллекта российской ИТ-компании «Криптонит».Быстрый стартЕсть множество оболочек для запуска моделей: Ollama, Open WebUI, GPT4All, Unsloth Desktop,

продолжить чтение

Виртуализация PCI Express по воздуху: беспроводная внешняя видеокарта WiCi One

продолжить чтение

Что значит развернуть LLM локально: два дня с vLLM, DGX Spark и настоящими ограничениями

Когда меня однажды спросили, что такое инференс и как выглядит локальное развёртывание модели, я ответил правильно, но слишком общо: загрузить веса, поднять runtime, отдать API, подключить приложение.Теорию я понимал. Но честный ответ был таким: собственного опыта, в котором всё это проходит путь от файлов модели до работающего пользовательского сценария, у меня тогда не было.Через несколько дней такой опыт появился.

продолжить чтение

123