Офлайн-ИИ в десктопном приложении: что я узнал, встраивая Ollama в лаунчер для трёх ОС
Я делаю Lumi, открытый лаунчер в духе Spotlight: по горячей клавише открывается строка, в которой можно запустить программу, найти файл или задать вопрос нейросети. Честно скажу сразу: код я пишу вместе с Claude, сам я не программист. Но тесты, цифры и ошибки ниже настоящие, и о них хочется рассказать.Задача была такая: человек без опыта нажимает одну кнопку и получает ИИ, который работает без интернета. Ему не нужен терминал и не нужно знать, что такое Ollama. Дальше расскажу, что из этого вышло и обо что я споткнулся.1. Какую модель выбрать: тест четырёх кандидатовКандидаты: gpt-oss 20B, Qwen 3.5 9B, Gemma 4 E2B
Как показать 24 соседних листа? Паспарту спешит на помощь
Всем привет! Продолжаю развивать прототип идеи инструмента - призванного помогать в изучении сложных/комплексных тем и вопросов. Почитываю идеи Андрея Карпаты - очень нравятся его мысли и идеи. Думаю на тему качественных сценариев использования, на ум приходит что-то вроде:“Изучатор” сложного в графовом представлении с удобством и простотой drawio“Сравнятор” совместной работы человека и LLM, тут нужен некий режим возможности дозагружать новый файл с графом и получать инструментом diff (различия) с подсветкой
API принятия решений у вас в телефоне: ответ за десятки миллисекунд, без облака и без подписки (быстрый аналог Jev)
Каждый, кто делал бота поддержки или автоматизацию на языковых моделях, знает эту боль. Вы отправляете текст клиента в облачный API, ждёте, пока запрос долетит до дата-центра, отстоит очередь и вернётся, а потом ещё разбираете вежливый абзац, чтобы понять: так это жалоба или вопрос о доставке? Платите за каждый вызов. И молитесь, чтобы интернет не моргнул.Cortiq Mobile делает то же самое иначе. Модель решений лежит в памяти вашего телефона, отвечает одним JSON и не тратит время на дорогу: на реальном Android-смартфоне нативное решение занимает 13–22 миллисекунды
Запускаем множество ИИ на телефоне без интернета в новом формате CMF
Cortiq Mobile — приложение для Android и iOS (пока нет в Appstore, проходит проверку) с открытым кодом, которое запускает модели формата CMF прямо на телефоне. Сейчас производительность телефонов в некоторых случаях превышает производительность ПК поэтому небольшие LLM модели вполне можно использовать для работы. В самолёте без сети оно отвечает на вопрос, переводит письмо и разбирает текстовый файл. Дома, в доверенной сети, тот же телефон отдаёт ноутбуку локальный API или возвращает программе структурированное решение вместо чат-реплики.
Tinder начал проводить офлайн-мероприятия для привлечения аудитории
Tinder представил план обновлений, призванных оживить приложение, повысить его безопасность и использовать искусственный интеллект. Компания будет проводить мероприятия и встречи в реальной жизни, а также запустит новый виртуальный формат быстрых свиданий.
Запускаем LLM на iPhone локально — мой опыт с Gemma 2B
ВведениеДолгое время меня мучал вопрос - возможно ли запустить ИИшку у себя на телефоне, и если да, то какую. Я уверен, что об этом думали многие, но не понимали смысла, зачем тратить время на такого рода занятия. Чтож, я не выдержал и сделал мини-приложение, которое запускает Qwen / Gemma модель и общается с вами без доступа в интернет. Задачи минимум: 1. Развернуть модель ИИ у себя на iPhone2. Навайбкодить приложение, где можно общаться ИИ без доступа в интернет 3. Замерить потребление ресурсов моего iPhone во время работы с приложениемЧто получилось в итогеiPhoneLLM
Ученые из Финляндии предполагают, что при совместной онлайн-игре у двух игроков улучшаются социальные отношения офлайн
Ученые из Хельсинского университета опубликовали исследование, в котором утверждают, что мозговые волны онлайн-геймеров синхронизируются во время игры, даже если игроки находятся в разных комнатах. По мнению исследователей, подобная синхронизация поможет улучшить социальные отношения между игроками в реальном мире.
