rag.
Первый RAG комом: как мы учились анализировать ошибки автотестов с помощью LLM
Привет! Меня зовут Алексей, я автотестер в hh.ru
Комнатный RAG: бесплатный ИИ-помощник-консультант по содержимому сайта
Про умных чат-ботов, которые помогают операторам контакт-центров, разбирают обращения и автоматизируют процессы, слышали, кажется, все. Помимо автоматизации целых служб есть и задача поменьше, с которой можно начать на обычном сайте.Вот обычный сайт небольшой компании. На нём описаны услуги, проекты, условия работы, иногда цены и клиенты. Посетитель приходит с конкретным вопросом: «Вы можете помочь с моей задачей?», «У вас было что-то похожее?», «А это можно установить у нас?» Чтобы разобраться, ему нужно прочитать несколько разделов и самому связать информацию.
Как сделать RAG-чат для сайта, который не выдумывает цены: пять решений из моего бота
С июня я делаю AI-чат для сайтов, который не выдумывает цены и не соглашается с клиентом во всём подряд. К пяти решениям из статьи я пришёл через ошибки.Зачем вообще ещё один чат-ботПо
Чат, который ничего не сочиняет: 43 гипотезы, четыре ошибки замера и одна честная стена
Препринт этой работы пока не опубликован на arXiv: для подачи мне нужен endorsement в категории cs.CL (Computation and Language). Если у вас есть право выдавать endorsement в этой категории и вы готовы помочь, буду благодарен — напишите мне в личные сообщения на Хабре.Код, файлы результатов, meta прогонов и реестр гипотез целиком, включая отрицательные: https://github.com/ADanMan/elm-research. Репозиторий пока приватный. Планирую открыть исходники после публикации статей.
Выбирать цитаты в ELM и находить ошибки поиска
Если вы делаете поиск по документам, можно ли отвечать только словами из источника и отказываться, когда ответа нет? В ELM я проверил этот способ без дообучения. При заданном абзаце выбор цитаты дал близкий к генерации общий счёт на моей выборке. Если абзац надо найти, результат зависит от поиска и последующего выбора строки судьёй.Отделить поиск от формулирования ответа
Ответ цитатой вместо генерации: проверяю поиск по документам
Если вы делаете поиск по документам, можно ли отвечать только словами из источника и отказываться, когда ответа нет? Я решил проверить, насколько далеко можно зайти с таким ограничением.Для этих экспериментов я разрабатываю собственную систему и называю её ELM. Это рабочее название моего проекта. Его основная идея: код предлагает варианты, нейросеть выбирает и проверяет их, а код собирает результат. В этой статье результатом служит цитата из документа либо отказ, если подходящий ответ не найден.
Ошибки RAG: 6 причин, почему лагает память ИИ-агента, и как провести диагностику retrieval
RAG (Retrieval-Augmented Generation или генерация с дополненной выборкой) — это технология, которая объединяет большую языковую модель (LLM) с внешней базой знаний. Вместо того чтобы полагаться только на заученные во время обучения данные, ИИ сначала ищет точную информацию в корпоративных документах, справочниках или интернете, а затем пишет ответ на её основе.
