rag.
Дешево, но не точно: разбираем контроллер доверия к памяти LLM-агентов
В 2024 году мэрия Нью-Йорка запустила чат-бота MyCity — цифрового помощника для владельцев малого бизнеса. Он должен был стать удобным справочником по городским правилам и законам. Но на деле бот раздавал советы, за которые предпринимателям грозили штрафы и суды, например, не выплачивать до конца чаевые сотрудникам, уволить человека за жалобу на харассмент, и прочее в таком духе.Правильная информация при этом лежала в собственной базе знаний бота наравне с устаревшей. Как оказалось, он просто-напросто не смог выбрать между верным и неверным, когда оба варианта оказались под рукой.
Программа поиска по PDF. Разбираем PageIndex, Streamlit и ссылки на страницы
«Срок гарантии — 18 месяцев». Красивый ответ. А если в договоре написано 12? Или число 18 стоит в разделе о хранении, а модель просто зацепилась за него?В чате такие ошибки прячутся за гладкой фразой. Я хотел иной маршрут: задать вопрос к PDF, получить ответ и одним нажатием открыть физическую страницу исходного файла, на которую ссылается модель. Так появился PDF Desk
ColBERT, MUVERA и скучная идея, которая оказалась выгоднее обеих
Есть особый жанр разочарования, знакомый каждому, кто занимался поиском всерьёз: читаешь статью, где новый метод обходит старый на несколько пунктов, воспроизводишь всё у себя и видишь совсем другую картину. С ColBERT и MUVERA у меня вышло именно так: на обычных текстах обещанного прироста почти не было, зато по дороге выяснилось, где эти методы действительно работают, а где нет.
Эксперименты с Радиантом: память агента против окна в миллион токенов
Привет! Меня зовут Глеб Смольяков, я инженер-программист в DevRel-отделе Битрикс24.
Как мы 3+ года пытались подружить AI с разработкой: от провалов к Spec-Driven
Привет, Хабр! Меня зовут Родион, я руковожу отделом по анализу данных в Лаборатории данных компании «Синимекс». В этой статье хочу поделиться нашим практическим опытом и эволюцией подходов применения различных сценариев использования LLM в нашей работе. Спойлер — не обошлось без набитых шишек)В настоящий момент айтишечка переживает очевидный хайп вайб-кодинга и агентской разработки, термин “вайб-кодинг” появился в 2025, а наш первый основательный “подход к снаряду” датируется 2023 годом.2023: пробуем метрикиКейс 1. CDTУ нашей компании есть продукт CDT aka Cinimex Development Tool
Не начинать с LangChain: как спроектировать корпоративную GenAI платформу до реализации
GenAI проект легко начать с технологий: выбрать LangChain, vector database, Kubernetes, Kafka, модель и сразу писать RAG пайплайн.Для корпоративной платформы это почти всегда слишком ранний шаг.Основные архитектурные вопросы возникают не в момент вызова LLM, а вокруг неё: кто может получить доступ к данным, где проверяются права, какие компоненты нужно масштабировать независимо, как система ведёт себя при недоступности внешнего провайдера и что действительно необходимо включить в первую версию.## Начать не со стека, а с условийЕсли сразу обсуждать технологии, очень быстро появляются вопросы:LangChain или LlamaIndex;
Закрытый Jev против открытой Laya: сравниваем decision-модели в RAG-реранжировании
Можно ли заменить облачный Jev локальной Laya Multilingual? После сравнения Jev с обычными LLM проверил Jev и Laya на реранжировании документов. Сравнил качество и скорость на трех поисковых наборах, добавив специализированные BGE и Qwen3-Reranker.Зачем здесь реранкерПредставим вопрос: как найти честного страхового брокера в Канаде? Поиск может вернуть и советы по выбору специалиста, и обсуждение дешевой автостраховки. Во втором тексте тоже есть Канада, брокеры и страхование, но вопрос пользователя другой.
