llm.
От REST к MCP: как LLM меняют принципы проектирования API и архитектуры систем. Часть первая
Привет, Хабр! Говорит AvitoTech. Меня зовут Дмитрий Бондарев, я backend-разработчик, в Авито занимаюсь проектами на стыке разработки и машинного обучения. Из каждого утюга поют о том, как ИИ скоро нас всех заменит. Однако я хочу зайти в эту тему с более технической стороны и поговорить о существующих методах интеграции и якобы неизбежном использовании ИИ-агентов в бизнесе и повседневных задачах.
Как мы внедряли ИИ на 500 инженеров, а скорость не росла. Часть 1. Рост использования не равен ускорению разработки
ИИ в разработке сейчас внедряют почти все. Кто-то подключает чат, кто-то раздаёт доступ к кодинг-агентам, а кто-то обучает свои модели. На графиках пользователи и активность растут, инженеры пробуют инструменты и привыкают к новой реальности, но при проверке метрик очень часто выясняется, что работать ничего быстрее не стало.
Как на самом деле работают LLM
В статье подробно рассматриваются принципы работы больших языковых моделей (large language model, LLM). Поскольку в основе большинства современных LLM лежит архитектура трансформера (transformer), ее понимание дает представление о ключевых механизмах, обеспечивающих работу таких моделей.В этой статье мы разберем ключевые принципы работы современных LLM, построенных на архитектуре трансформера. Я постараюсь объяснить основные идеи без погружения в сложную математику. Конечно, для глубокого понимания темы математическая база важна, но для первого знакомства этого материала должно быть достаточно.
Мы меняли LLM и промпты, а ошибка оказалась совсем в другом месте
Это бонусный материл в серии о внедрении LLM в клиентские сервисы. Если в прошлых трех статьях
RAG для закупок: Qdrant и LlamaIndex в локальном контуре
Привет Хабр! Меня зовут Владимир, и недавно я решил изучить новую (для себя) технологию - LlamaIndex. А тут и задачка подвернулась - надоело копаться в Положении о закупках, поэтому понадобился RAG для ответов по ФЗ-44, ФЗ-223, ну и локальному положению.В этой статье разберу, как создать простенький RAG, не выходящий из локального контура, на базе LlamaIndex + Qdrant, напишем к нему API и UI на Gradio. Поехали.Конфигурация проектаДля сервиса понадобятся LLM, векторная БД Qdrant, эмбеддер и реранкер результатов. Сразу код конфигурации:Код конфигурации
Сравниваем LLM, 12 тестов для Claude Fable 5 и GPT 5.5 Pro
В прошлой статье мы устроили большое сравнение Opus 4.8, GPT 5.5 и Gemini 3.1 Pro и оговорились: GPT 5.5 Pro в том матче не участвовала, потому что ее корректнее сравнивать с недоступной на тот момент Fable. Что ж, обещания надо выполнять. Anthropic внезапно вернула Claude Fable 5 в общий доступ. Напомню, это первая модель нового класса Mythos, которая в иерархии компании стоит выше Opus. Значит, пришло время дуэли тяжеловесов: Claude Fable 5 против GPT 5.5 Pro.
Как я три раза платил за ChatGPT: два раза был отправлен в бан без рефанда, чуть не развелся, и нашёл работающий способ
Не знаю, как у нормальных людей начинаются отношения с искусственным интеллектом. Наверное, они заходят на сайт, нажимают кнопку, вводят карту, получают подписку и идут жить свою счастливую продвинутую иишную житуху.У меня всё было иначе.Мои отношения с ChatGPT начались как хороший роман с плохим концом: сначала восторг, потом отношения, потом внезапное исчезновение денег и фраза "знаешь милый, любовь прошла, завяли помидоры, а твоя страна больше не поддерживается. Гудбай, май лав"!Расставание (два, точнее) обошлись мне в $220. Как это было, сейчас расскажу.
Reddit использует большие языковые модели для решения проблем LLM
В Reddit разработали инструменты с использованием больших языковых моделей для борьбы со спамом, большая часть которого изначально создавалась с помощью LLM. По данным платформы, ежедневно они блокируют 23 млн спам-просмотров и отлавливают около 25 тысяч новых спам-сообщений и комментариев.
Как мы строили свою базу данных о киберугрозах для LLM-агентов и SOC
ВведениеСначала задача звучала просто: складывать PDF, CVE и статьи по кибербезопасности в одну базу, затем давать LLM-агенту подходящие фрагменты через HTTP API. На доске это помещалось в одну цепочку: загрузка, извлечение текста, разбиение на части, построение векторов, поиск.Рабочий прототип появился быстро. Настоящая работа началась потом.
