Шум в эмбеддингах не защищает данные: проверил 8 схем, и при 100 известных парах узнаётся ~90% документов
Коротко. Если хранить эмбеддинги с добавленным шумом, текст по ним восстановить трудно, но это не значит, что данные защищены. Я измерил, можно ли по защищённой записи узнать, какому документу она принадлежит, если атакующий знает часть соответствий (для основного сравнения 1000 из 5183 документов, ~19%). Для шума узнаётся 99% записей, даже когда качество поиска упало вдвое. При 100 известных парах (2% корпуса) узнаётся около 90%.
- Оставлено в
Вторая память и второй мозг — не одно и то же. Как я собрал 200 тысяч файлов своей жизни и подключил к ним агентов
Сейчас модно называть вторым мозгом папку с заметками в Obsidian. Я разбирал гитхабы Андрея Карпатого и других, кто про это пишет, и чаще всего «второй мозг» там - это куча файликов, перелинкованных друг с другом, плюс подключённый к ним Claude Code.Я думаю иначе.Есть вторая память, и есть второй мозг. Это разные вещи, и разница между ними - это как раз то, ради которой всё это стоит строить.Вторая памятьВторая память - это всё, что мимо вас в жизни проходило:переписки с коллегами, друзьями, жёнами, детьми во всех мессенджерах: Telegram, Slack, Discord, WhatsApp и тд - вся история, насколько глубоко её вообще можно выкачать;
Я добавил Rerank в Obsidian. Что показали тесты на 64 и 500 заметках
В прошлых статьях я рассказывал, как постепенно добавлял семантический поиск в Obsidian. Сначала появился локальный векторный индекс, потом Similar Notes, поиск потенциальных дублей и RAG. В какой-то момент всё это начало работать достаточно хорошо, и я уже собирался оставить поисковую часть в покое.Но потом добрался до Rerank.Идея простая. Сначала обычный семантический поиск находит заметки, близкие по смыслу к запросу. Затем вторая модель получает найденные фрагменты, сравнивает их с вопросом и пытается расставить документы по релевантности. Звучит полезно, особенно когда в хранилище много заметок на похожие темы.
Хотел выбрать булочную по отзывам, а написал анализатор аномалий с embeddings и графами
Недавно переехал. После каждого переезда я делаю одно и то же: открываю Яндекс Карты и смотрю, какие магазины рядом, где поесть и куда стоит зайти.Рейтинг заведения сам по себе мне мало что говорит. У большинства мест, которые мне попадаются, он выше четырёх. Поэтому я читаю сами отзывы: ставлю фильтр «сначала отрицательные», и картина иногда меняется сильно. В общей ленте всё выглядит отлично, а в негативных отзывах появляются подробности, которых по звёздам не заметишь.Листая карты в очередной раз, наткнулся на отзыв на булочную. Он начинался так:да вот хороший вариант ответа
Набор функций ещё не продукт: что я понял, когда посмотрел на свой проект со стороны
Всем привет! В прошлой статье я рассказывал про ребрендинг моего плагина для Obsidian, Companion и MCP. Но спустя какое-то время я поймал себя на достаточно неприятной мысли: поменять название, причесать отдельные функции и добавить ещё несколько возможностей недостаточно, чтобы получился действительно интересный продукт. Функций становилось всё больше, а ответа на довольно простой вопрос всё ещё не было:Зачем обычному пользователю вообще нужен именно мой плагин?
RAG умер, да здравствует RAG: история одного Reranker и как мы оживили нейропоиск среди 35 000 страниц
Привет, Хабр! На связи Саша Михеев, ML-инженер Центра гибридного интеллекта в Рунити. В
Собираем приватный RAG-стек на pgvector
Приватный RAG-стек на pgvector помогает отвечать на вопросы по внутренним документам. Поиск подбирает отрывки, а языковая модель составляет по ним ответ. Например, сотрудник узнаёт порядок восстановления доступа и проверяет его по исходной инструкции.
474 712 строк за 35 лет: как мы с LLM и 21 экспертом приводим в порядок справочник автосервиса
НАР РУЧКУ ДВЕРЬ РАСПАШ З ПР С/УЭто не битая кодировка и не ошибка миграции. Это настоящее название работы из нашего справочника. За 35 лет в нём накопилось 474 712 строк: сокращения, дубли, опечатки, разные языки и разные варианты одной и той же операции.Опытный мастер-консультант многое понимает по контексту. Для специалиста по записи клиентов и аналитика такой справочник уже становится системной проблемой: первый зависит от знаний более опытных коллег, второму приходится вручную собирать разные названия одной операции.
Manticore Search 29.9.0: chunked auto-embeddings и mmap-доступ к columnar-атрибутам
Manticore Search 29.9.0: chunked auto-embeddings и mmap-доступ к columnar-атрибутамManticore Search 29.9.0: chunked auto-embeddings и mmap-доступ к columnar-атрибутам
- Оставлено в
Месяц тюнил поиск по памяти, а починила всё одна строка в промпте
Месяц тюнил поиск по памяти, а починила всё одна строка в промптеУ меня телеграм-бот, который ведёт память по чату: вытаскивает из переписки факты и потом отвечает с оглядкой на них. Работает в полутора тысячах чатов.В конце августа я закончил месяц работы над его поиском. Поднял Recall@5 на 17%, перебрал параметры BM25, нашёл оптимальный вес слияния. Потом померил, как это сказалось на самих ответах.Никак. Прирост оказался статистически не значимым, p = 0.79.А потом я посмотрел в промпт, поправил там одну формулировку и получил плюс 16 процентных пунктов качества за вечер.
- Оставлено в
