rag. - страница 3

rag.

RAG-бот по материалам эксперта: как я мерил качество поиска и почему гибрид оказался хуже чистого вектора

Эксперт попросил бота, который отвечает его голосом и только по его собственным материалам: курсам в PDF, расшифровкам видео и записям занятий. Если ответа в материалах нет, бот должен честно отправить человека к живому эксперту и ничего не придумывать. Я собрал такого бота на Python и Telegram, рассчитывая повозиться с промптами, но на первых же живых вопросах выяснилось, что бот просто не находит нужный материал, и почти всё время ушло на поиск.

продолжить чтение

Чат на сайте не должен врать: почему наш ассистент иногда честно отвечает «точного ответа нет»

Представьте: посетитель интернет-магазина спрашивает в чате, сколько дней на возврат. Бот бодро отвечает: «30 дней, без вопросов». На сайте при этом написано 14. Через три недели покупатель приходит с товаром и скриншотом переписки. Спорить с ним бесполезно: «ваш же консультант сказал».

продолжить чтение

Опыт QA‑автоматизатора: как я подключил нейросеть к wiki, базам данных и тест‑менеджменту

«Давайте скормим модели документацию, а она сама нагенерит тест‑кейсы». Вот что обычно слышишь, когда разговор заходит про нейросети в тестировании. Звучит красиво, но в моей работе это оказалось чуть ли не самым бесполезным сценарием. Я занимаюсь автоматизацией, ручные кейсы пишу не каждый день, и генерация их «по щелчку» закрывает не ту боль. Для меня настоящая боль в другом. Как понять, что вообще нужно проверять, где лежат данные, какая логика сейчас актуальна, какие сценарии уже покрыты и где документация расходится с тем, как система ведёт себя на самом деле.

продолжить чтение

Один час в мире без AI‑агентов: от токенов до MCP

Представьте, что сейчас 2 023 год и готовых AI‑агентов ещё нет. Есть только обычная LLM, которая умеет продолжать текст. Что нужно к ней добавить, чтобы она смогла читать файлы, искать информацию, запускать команды, исправлять код и сама решать, какой следующий шаг сделать?

продолжить чтение

RAG после reranker: от корпоративного поиска к агенту, которому можно поручить исследование

Привет, Хабр! На связи Александр Михеев, ML-инженер Центра гибридного интеллекта в Рунити. В первой статье

продолжить чтение

Как мы делали «золотой датасет» для оценки агентов

Однажды мы решили сделать золотой датасет. Он был нам нужен для улучшения и масштабирования МВП, прошедшего пилот. Мы думали, что сделать его будет также просто как и МВП, и отправили первую версию в работу к нашим разметчикам. Мы верили что это будет быстрое приключение на 15 минут туда и обратно (ведь мы хотели разметить всего 5000 диалогов), но никогда так не ошибались. Оказалось, что живые люди понимают ТЗ творчески, а я расскажу, с чем мы столкнулись, когда, наконец-то дождались своей разметки.Первые шаги

продолжить чтение

RAGу для программиста

Внедрение AI в программные продукты часто сопровождается необходимостью обогатить контекст LLM специфичными для ваших задач данными. Для обогащения знаний используемой вами модели применяется два подхода:fine-tuning — дообучение модели на ваших данных. Тут финансовые затраты идут на обучение модели:ресурсы на fine-tuning в случае on-prem решения,дополнительные средства за дообучение модели по подписке.RAG — внешний источник данных, данные из которого передаются в качестве контекста к промпту в LLM. Затраты тут переносятся на размер запроса за счёт увеличения входящего контекста.

продолжить чтение

Как превратить Cursor в долговременную память проекта: LLM Wiki, QMD и Cursor CLI

> Практический кейс интеграции LLM Wiki и локального поиска в рабочий процесс Cursor. Ссылка на исходные конфигурации и skills — в конце статьи.Большой контекст в Cursor помогает ровно до момента, когда проект начинает жить дольше одного чата. В одной сессии обсуждается исходная постановка задачи, в другой — устройство витрины, в третьей внезапно выясняется, что показатель должен считаться немного иначе, а ещё через неделю приходится заново объяснять агенту, почему первое очевидное решение уже было отвергнуто.

продолжить чтение

Синтетическая эмпатия: как RAG, системные промпты и TTS инженерят привязанность к LLM-агентам

Это адаптированная версия моего исследования «Синтетическая эмпатия: эмоциональная привязанность к автономным LLM-агентам и коммерциализация одиночества». Здесь — техническая выжимка: разберём, как именно архитектура современных компаньон-агентов производит эмоциональную привязанность, и почему это не побочный эффект, а прямое следствие инженерных решений. Полная версия с приложением по железу и библиографией — в моём блоге.От ELIZA к агентам: три этапа

продолжить чтение

Локальный ИИ-ассистент по базе знаний компании: RAG поверх вики, файлов, 1С и Битрикс24

Зачем это вообще нужноВ любой компании старше пары лет знания размазаны по вики, папкам с регламентами, почтовым перепискам, 1С и Битрикс24. Новичок ищет нужный документ полчаса или идёт спрашивать коллегу, и коллега отвлекается.Очевидный ответ — «давайте сделаем ChatGPT по нашим документам». Но почти всегда тут же звучит требование: данные не должны уходить в чужое облако. Значит, модель, поиск и хранилище должны жить на своём железе.

продолжить чтение