llm.
RAG в техподдержке: проблемы и пути улучшения
Технология RAG в последнее время получила широкое распространение в сфере техподдержки. Её основная идея заключается в том, чтобы перед генерацией ответа модель делала поиск по документации компании и добавляла найденные фрагменты в промпт. Предполагалось, что это позволит ускорить работу операторов и повысить точность ответов. Однако, как показывает практика, при использовании RAG возникает ряд ограничений и сложностей. В этой статье рассмотрим основные проблемы, влияние на метрики поддержки и возможные пути улучшения.1. Ограничения поиска по документации
Законы масштабирования – архитектура O1 Pro — Инфраструктура синтетических данных, RLAIF, токеномика вычислений
С каждым днем растут страхи и сомнения относительно законов масштабирования ИИ. Большинство предсказателей отрасли ИИ
Как оценивать ваш RAG-пайплайн и валидировать качество ответов LLM
Все работают на RAGRAG-системы становятся все популярнее в корпоративной среде, но их эффективное внедрение и качественная оценка остается сложной задачей. Один из типичных примеров — создание чат-ботов, отвечающих на вопросы пользователей с опорой на корпоративную базу знаний. И которые, вроде бы, заводятся и работают, и делают это даже неплохо, но всегда хочется получше.
ИИ-агенты: от теории к практике
ВступлениеОдними из наиболее интересных подходов в создании AI-систем в 2024 году являются агенты (agents, agentic AI systems) и мультиагентные системы (multi-agent systems).Оба они показывают большую эффективность при решении многих задач и позволяют решать более сложные задачи с помощью LLM
Как устроена Лаборатория Инноваций СИБУРа и зачем она нужна
Создавать инновации быстро и гибко можно в стартапе или небольшой компании, но что, если ты промышленный гигант с более чем 25 заводами по всей стране, отлаженными процессами и бюджетированием, заточенными под беспрерывное производство, в котором каждая секунда на учёте и некогда экспериментировать? Как реализовывать смелые идеи в таких условиях?
Как AI помогает студентам придумывать инновационные проекты? Образовательный эксперимент МФТИ
Если вы когда-нибудь придумывали проект или выбирали тему исследования, то знаете, что одного вдохновения недостаточно. Оригинальные и практически применимые идеи требуют понимания рынка, а также готовности экспериментировать.Что может стать катализатором появления качественных идей? В предпринимательском образовании этот вопрос особенно актуален.
Невидимые герои. Почему профессия промпт-инженера действительно важна для ML-сферы
Всем привет. Я Игорь Филатов, ML-разработчик в компании MTS AI, до этого я около полугода работал промпт-инженером. Сегодня я расскажу вам о том, из чего состоит работа промпт-инженера, можно ли назвать ее тяжелым трудом, и как попасть в эту сферу. И заодно признаюсь, почему я все же решил сменить эту профессию.В чем суть промпт-инжиниринга?
Опыт Звука: как реализовать рекомендательную систему аудиокниг с использованием больших языковых моделей (LLM)
Всем привет! На связи Дмитрий Берестнев, Chief Data Scientist в HiFi-стриминге Звук
Китайские разработчики ИИ стремительно догоняют Западные решения. Колонка The Wall Street Journal
Основатель Moonshot AI Ян Чжилинь заявил, что компания фокусируется на обучении с подкреплением, которое имитирует рассуждения человека
