Домашний ИИ: простой способ добавить «интеллект» своему компьютеру
В этой статье мы рассмотрим открытые модели машинного обучения. Они не требуют обязательного подключения к интернету и подписки, никуда не передают ваши данные и достаточно компактные, чтобы их можно было запускать на ПК или ноутбуке. Эксперименты выполнялись на ПК с Core i5-14600, 32 ГБ DDR5 и RTX 3070Ti c 8 ГБ VRAM. Комментарии подготовлены экспертами лаборатории искусственного интеллекта российской ИТ-компании «Криптонит».Быстрый стартЕсть множество оболочек для запуска моделей: Ollama, Open WebUI, GPT4All, Unsloth Desktop,
Сколько Rust помещается в 0.5B
Temper 0.5B — моя небольшая модель, дообученная на базе Qwen2.5-Coder-0.5B‑Instruct, упор которой сделан на языке Rust. Узкая специализация позволила ей обойти модели крупнее, вплоть до x3 по параметрам. Целью дообучения было проверить возможности крошечной модели в узкой задаче, сравнить с общими того же размера и выше.Первая версия Temper
В проекте LibreOffice не планируют добавлять ИИ в свои продукты
Организация The Document Foundation сообщила, что, хотя она и не отвергает саму идею использования ИИ, в обозримом будущем внедрять такие технологии в программное обеспечение LibreOffice не планируется.Эта публикация появилась спустя несколько недель после выхода в конце августа последней версии LibreOffice; тогда организация вновь подчеркнула, что программа «не содержит функций генеративного ИИ».
Откуда пришли установки iOS‑приложения без SDK атрибуции: спецстраницы App Store вместо UTM
Я делаю Кубыш, приложение для учета расходов и накоплений на iPhone: оно считает, сколько можно тратить в день до зарплаты и когда накопишь на цель. Пишу о нем на Дзене, vc.ru, в LinkedIn и соцсетях — подписывайтесь пожалуйста. После каждой публикации хотелось понять одно: что из этого приводит людей в App Store.
Языковая модель в поиске магазина: как подключить её так, чтобы её падение никто не заметил
В прошлой статье я рассказывал, как устроено ядро нашего поиска: триграммы, crc32, словарь болей и два сита. В конце был короткий раздел «А где же нейросеть?», и он заслуживает отдельного разговора. Сегодня про то, как модель встроена сверху и почему мы с самого начала исходили из того, что она когда-нибудь подведёт.
Почему JSON Schema не делает ответ LLM надёжным
После того как LLM начинает возвращать structured output, интеграция внезапно становится очень похожей на обычный backend.Больше не нужно вырезать JSON из Markdown, надеяться, что модель не добавит перед ним «Конечно, вот результат», чинить потерянные кавычки и повторять запрос из-за случайной запятой.Мы описываем схему, модель возвращает объект, десериализуем его в Go-структуру — и кажется, что самая неприятная часть интеграции закончилась.Например:type Invoice struct { Number string `json:"number"` Currency string `json:"currency"` Total int64 `json:"total"` }На выходе получаем:{ "number": "INV-2026-1842", "currency": "USD", "total": 148000 }JSON валиден.
Ещё не выпущенная модель OpenAI подготовила 722 математические работы
OpenAI открыла репозиторий с 722 математическими рукописями, подготовленными внутренней, пока не выпущенной моделью. Работы объединены в 372 семейства: в каждое входят связанные результаты, дополнительные доказательства или следствия.
