Как устроены LLM: разбираем на примере 3-уровневой абстракции
Чтобы оптимизировать производительность больших языковых моделей (LLM), необходимо понимать весь программный стек. Мне не удалось найти подробную статью, которая показывала бы этот стек как общую картину, поэтому я решил написать такую статью сам. Эта статья не является исчерпывающим обзором или набором наилучших практик. Здесь я в большей степени делюсь моими общими представлениями о том, как выглядит ландшафт современных LLM‑систем.Во‑первых, любая система проектируется с расчётом на достижение конкретных целей с учётом заданных ограничений. В LLM‑системах наиболее принципиальные цели связаны с увеличением
Excel, 3 маркетплейса и 170 часов рутины — как я автоматизировал работу e-commerce команды
Автоматизацию бизнеса часто обсуждают в контексте замены сотрудников: вот сейчас подключим AI, сократим отдел поддержки в три раза и получим экономический эффект.На практике мне гораздо интереснее другой класс задач.Есть сотрудники, которые умеют анализировать продажи, работать с ассортиментом, рекламой и клиентами. Но несколько часов каждого рабочего дня они тратят на то, чтобы переносить данные из одной системы в другую или в сотый раз писать почти одинаковый ответ покупателю.Один из проектов, над которым я работал, как раз оказался таким.
Почему успешный ИИ-пилот может не окупиться?
Хорошие показатели пилота еще не означают, что внедрение окупится после масштабирования. На INFOSTART CIO CAMP 2026
От диплома до продакшена: … Часть 7: Инфра, MLOps и уроки масштабирования
От диплома до продакшена: Как я создавал архитектуру ИИ-проекта для… Часть 7: Инфраструктура, MLOps и уроки масштабированияАвтор: Алексей Бобрешов, руководитель отдела искусственного интеллекта Категория: Искусственный интеллект, MLOps, управление проектами, масштабирование Время чтения: 13–16 минутЭто седьмая, заключительная часть серии. Для контекста по безопасности рекомендую Часть 6.Введение: почему модель — это ещё не продукт
RAG без downtime: настраиваем инкрементальное обновление документов на Qdrant и LangChain
PM: Нам нужно актуализировать базу знаний для ИИ-ассистента, там изменилась инструкция по смене пароля.DevOps: Не проблема, сейчас запущу скрипт, через два часа всё обновится. Предупреди Заказчика о недоступности сервиса.Знакомая ситуация? Полная зачистка векторной базы и реиндексация всех имеющихся документов с остановкой сервиса - решение простое и надёжное, но «прощается» только на этапе прототипа.В продакшене могут быть сотни тысяч документов, живые пользователи и
Как мы проектировали Ranvik: AI-сервис с контролем стоимости и продуктовой лентой
Как мы проектировали Ranvik: AI-сервис с контролем стоимости и продуктовой лентой
ЧАСТЬ 1: БИЗНЕС И СТРАТЕГИЯ
«Мы не видели пассажиров — только их тени». Часть 1: Как я выявил системный обман на ₹650 млн в индийских автобусахАвтор: Алексей Бобрешов, руководитель отдела ИИ Категория: Искусственный интеллект, управление проектами, бизнес-аналитика, международные проекты Время чтения: 10–12 минутВведение: Почему я взялся за этот проектЯ руковожу направлением искусственного интеллекта в одном из крупнейших федеральных холдингов России. В моём портфеле — 6 реализованных проектов
Почему молодые разработчики сейчас способны на то, что раньше казалось недостижимым
Размышление о том, как изменилась инженерная культура, почему сегодняшние инструменты радикально расширили горизонты разработки и что делает молодых инженеров способными создавать системы, которые раньше выглядели мягко сказать нереально.
Как масштабировать применение ИИ. Аналитика и рекомендации от McKinsey
Всем привет! Меня зовут Александр, я COO в SaaS-платформе аналитики данных. Делюсь полезными материалами, которые считаю стоят внимания. В основном про AI, изменение процессов, тренды и продуктовое видение.У себя в телеграм-канале делюсь сжатыми и структурированными саммери статей.Сегодняшний перевод исследования от McKinsey. Полный отчет (28 страниц)
