llm. - страница 76

llm.

LLM говнокодит не хуже людей. Только быстрее

Полгода назад я начал писать пет-проект практически полностью с помощью LLM-агентов. Первые недели это был чистый дофамин: фичи вылетали за вечер, я успевал за неделю столько, сколько раньше делала небольшая команда. А потом всё начало вязнуть — ровно так же, как вязнет любой проект с говнокодом. Каждая новая фича ломала две старые, агент правил код «на ощупь», а я всё больше времени тратил не на продукт, а на разгребание.

продолжить чтение

Конвейер из 10 агентов без строчки кода: три промпта, 40 минут и прогон при зале

продолжить чтение

Запуск и оптимизация локальной LLM с llama.cpp

Автор статьи - Даниил Г., Python-разработчикВступление

продолжить чтение

От стримов к вебсокетам: как я боролся с буферизацией и наконец победил

Перефразируя Эдгара Дега:«Искусство — это не то, что ты делаешь, а то, что ты заставляешь машину сделать».Привет. Меня зовут Николай Пискунов, я руководитель направления Big Data и эксперт курса Cloud DevSecOps по безопасной разработке от Академии вАЙТИ Beeline Cloud. Продолжаю цикл статей о клиенте для облачного сервиса Ollama. В первой части я рассказал о начале работы над клиентом и оставил пасхалку про сломанный стриминг. Во второй

продолжить чтение

Метод, которого не существовало: как я собрал локальный RAG для CAD API

Локальный RAG для Smart3D API

продолжить чтение

Silicon Office: превратил свою команду ИИ-агентов в пиксельный офис из «Кремниевой долины»

Всем привет! Хочу поделиться выходным проектом, который вырос из чистой вкусовщины: мне надоело смотреть на бегущие строчки в терминале, и я сделал так, чтобы мои ИИ-агенты сидели в пиксельном офисе, пили кофе и приносили ответы лично. Подробнее — под катом.Как я до этого дошёл

продолжить чтение

Контекстная инженерия: что это такое, как работать с контекстом и почему за это начали платить

Вы собрали диалоговую систему — агента с RAG, инструментами и памятью. На коротких диалогах всё работает: модель выбирает нужный инструмент и достаёт данные. Но через несколько десятков итераций агент уже путает инструменты, тянет в ответ старые вызовы и опирается на ошибку, которая раньше попала в контекст.Новый промпт не всегда решает проблему: важно управлять тем, какая информация попадает к модели перед каждым следующим шагом. Это и называют контекстной инженерией. 

продолжить чтение

Как оценить библиотеку для ИИ-агентов без слепой проверки финального ответа

Сравниваем ревизии transformers по разным метрикамИИ-агенты для программирования

продолжить чтение

From Wizard to Warlock: магия в D&D как метафора эпохи LLM

Привет, я Саша Овчинников, старший специалист по тестированию в Контуре. 👋Последние несколько лет я активно пользуюсь LLM для достижения своих личных целей:как глава фехтовального клуба практически полностью автоматизировал процессы в нём;как опытный тренер — написал сложный проект, который превращает разбор боя в нормализованный анализ, удобный для постановки экспериментов;собрал Музу — личного ассистента поверх Obsidian;и многое другое.

продолжить чтение

Чек-лист тестирования поисковой системы: от engine sanity до RAG и графов знаний

Чек-лист для тестирования поисковых и RAG-систем — от базовой работоспособности поискового движка до качества генерации, агентных сценариев и поведения на неполных данных. Шесть уровней проверок, сводная таблица с инструментами для каждого уровня и глоссарий из 50+ терминов. Проверку стоит организовывать по порядку, нет смысла гонять RAG-метрики, если система не проходит Уровень 0, то проблема может быть в том, что поиск не находит документ из-за опечатки в запросе, а не в качестве генерации. Перед тестированием По каким полям/источникам поиск должен работать, по каким — нет

продолжить чтение