llm. - страница 48

llm.

Строим RAG вручную: как это работает под капотом

Имея некоторый опыт в построении классических ML и CV-проектов, я решил разобраться в NLP (Natural Language Processing) и собрать свою RAG-систему без использования сторонних RAG-фреймворков (LangChain, LlamaIndex и т.п.). Моя цель - понять, как на самом деле работает RAG под капотом: от разбиения текста до генерации ответа. Проблема, которую решает RAG Готовые LLM модели имеют несколько недостатков:модель не имеет доступа к документам, отсутствовавшим в обучающей выборке (внутренние базы знаний, личные файлы);модель не знает о событиях после даты отсечения обучающих данных;

продолжить чтение

AI Hardcore Set: записи докладов с митапа про MCP и агентов в проде

11 июля мы собрали тех, кто каждый день работает с MCP, пишет своих агентов и гоняет реальные AI-инструменты в проде. Теперь доклады с мероприятия можно пересмотреть всё в удобном темпе. Собрали записи всех выступлений в одной новости. Spec-Driven Development: теория, инструменты, практика — Александр Шаповалов

продолжить чтение

«Солар»: почти 40% обращений сотрудников к ИИ содержат конфиденциальные данные

продолжить чтение

Собеседования для вас большой стресс? Для меня было да, поэтому создал решение

Есть неприятный момент на техническом собеседовании. Интервьюер заканчивает длинный вопрос, и ты понимаешь, что тема знакома. Ты делал это на работе, помнишь правильный подход и даже подходящий случай. Но отвечать нужно сейчас, а в голове одновременно идут четыре процесса: разобрать формулировку, вспомнить детали, выстроить ответ и не зависнуть в тишине.Если интервью на английском, добавляется пятый — перевод.

продолжить чтение

«Автомойка в 50 метрах от дома. Пойдем пешком?» Как простая загадка вызвала грандиозный философский спор о будущем ИИ

Автомойка в 50 метрах от дома. Как доберетесь — на машине или пешком?

продолжить чтение

Обновление Claude в Chrome объединило браузерного агента с экосистемой приложений Anthropic

Компания Anthropic выпустила крупное обновление

продолжить чтение

Как дать нейросети управлять рекламой и не разориться: MCP-сервер, где деньги тратит только человек

Полгода назад по сети разошлась история про AI-агента, который слил 441 тысячу за один твит — модель приняла решение, у неё был доступ к исполнению, и никто не стоял между решением и деньгами. С тех пор каждый раз, когда речь заходит про «дать агенту управлять чем-то важным», всплывает один и тот же страх: а если он сделает глупость с реальными деньгами?

продолжить чтение

Честный RAG eval set: как собрать первые 100-300 кейсов и не обмануть себя цифрой

В прошлой статье серии мы сжимали эмбеддинги и замеряли, насколько изменится выдача относительно полного fp32-поиска. Там это был правильный вопрос: ломает ли квантизация уже существующий retrieval.Но у такого замера есть неприятное слепое пятно. Можно аккуратно сохранить 99% выдачи исходного эмбеддера и все равно плохо находить нужные документы на своем домене. Внешний бенчмарк, даже сильный, этого не гарантирует. BEIR

продолжить чтение

Как не проиграть свою голову в битве с AI

Битва уже идёт, даже если ты этого не замечаешь. Более того, AI уже побеждает.Глава 1. Неминуемое поражениеСтарые фильмы про битву против искусственного интеллекта, обычно, рисовали нам классическое поле боя. «И восстали машины из пепла ядерного огня. И пошла война на уничтожение человечества. И шла она десятилетиями…» — наверняка почти все, кто смотрел «Терминатор 2: Судный день» помнят это вступление. Тогда войну с искусственным интеллектом воспринимали как что-то, что будет похоже на то, что мы уже знаем. Но так как «интеллект» искусственный, война идёт по искусственным правилам.

продолжить чтение

Наши книги о LLM: состояние дел по готовящимся новинкам

Приветствуем, Хабр.

продолжить чтение