llm. - страница 114

llm.

Почему AI-агент с доступом к API опаснее обычного ChatGPT

продолжить чтение

Evals для чайников. Как тестировать AI-агента, чтобы понимать, где именно он ломается

Большинство команд оценивают производительность AI-агентов через end-to-end метрики: success rate, количество токенов, tool usage, стоимость запроса, долю успешных задач. Это полезно для общего контроля ситуации, но почти бесполезно для реальной диагностики системы.

продолжить чтение

Зачем backend разработчику Python, если он не собирается становиться data scientist

Начал смотреть в сторону Python не потому, что захотел стать data scientist.Мой основной опыт обычный back C#/.NET, банковские системы, REST API, микросервисы, Kafka, PostgreSQL, Docker/OpenShift, CI/CD и сопровождение. Позже добавилась Java/Spring Boot. То есть моя базовая картина мира это не notebooks и не обучение моделей а сервисы, интеграции, продакшен, логи и ответственность за результат.Но когда я начал разбираться с LLM быстро понял, вызвать модель можно почти из любого языка, а вот руками понять RAG, embeddings, локальные модели, чанкинг, evaluation и большинство новых AI инструментов проще всего через Python.

продолжить чтение

AI Gateway для микросервисов: гайд по интеграции LLM в 2026

Всем привет, меня зовут Сергей Прощаев. В этой статье расскажу про одну из самых горячих тем 2026 года — интеграцию AI/ML как самостоятельных сервисов в микросервисную архитектуру. Я Tech Lead и руководитель направления Java/Kotlin разработки в FinTech & E-commerce, также преподаю на курсах разработки и архитектуры в OTUS.

продолжить чтение

Я устал копировать промпты вручную. И собрал 794 проверенных в деле промптов для ваших ИИ агентов

🤖 Что происходит, когда вы просто пишете «act as a senior developer»Модель выдает рабочий код. Примерно рабочий. 😅Компонент рендерится, но стили будут серым Tailwind по умолчанию. Про тесты модель скажет «добавлю позже». Переменные окажутся захардкожены, а в коде останется console.log.Это не проблема модели. Это проблема инструкции. Нейросеть делает ровно то, о чем ее попросили, не проявляя инициативы. 🤷‍♂️🔍 Откуда берется хороший системный промптЯ потратил несколько недель на разбор структуры лучших открытых репозиториев с агентными конфигурациями. Их шесть, все под лицензиями MIT или Apache 2.0. 📂

продолжить чтение

Hermes Agent сжигал 603M токенов за спиной — как я сократил фоновые расходы в 125 раз

Обложка: routing моделей в Hermes AgentНа днях я заметил, что квота Ollama Cloud Pro тратится быстрее обычного. Значительно быстрее. За семь дней я сжёг 603 миллиона токенов

продолжить чтение

Как мы с AI-ассистентом собрали новостной канал и какой опыт я получила, не будучи разработчиком

Привет! Я Лена, продакт-менеджер в ЮMoney. Финансовые технологии — одна из отраслей, где инновации появляются и внедряются особенно быстро. Нужно постоянно следить за рынком: изучать конкурентов, мониторить тренды и технологические новинки.Отдельно мне интересны кейсы, когда AI начинает выполнять задачи, которые раньше делали люди. Но подходящего формата для системного мониторинга таких новостей найти не удалось: где-то много «воды», а где-то не хватает конкретики. Хотелось максимально лаконичный формат: кто внедрил AI, для какой задачи, какие процессы / роли это затронуло,результаты.

продолжить чтение

Как я разогнал Qwen3.6-27B до 73 токен-с в llama.cpp: параметры, которые реально работают

Локальные LLM сейчас — это действительно мощный инструмент. Они уже вплотную приблизились к проприетарным моделям вроде Claude, особенно в задачах кодинга. Я сам активно использую локальные модели для разработки на TypeScript и Go.На данный момент самая интересная модель для моего стека — Qwen3.6-27B. Но один только выбор хорошей модели ничего не гарантирует. Без правильных параметров вы не получите ни скорости, ни качества.В этой статье я расскажу, с какими конкретно параметрами запускаю Qwen3.6-27B в llama.cpp

продолжить чтение

Тестируем выделенный L40S и vGPU на 16 ГБ по производительности (llama.cpp, ComfyUI)

продолжить чтение

Две машины и бумага между ними

Асимметричный асинхронный мост для ИИ-помощника на промышленном объектеДисклеймер. Это описание архитектурного паттерна, не анонс продукта. Все примеры реализации — иллюстрации того, как паттерн может быть собран; в реальных проектах его можно реализовать иначе. Регуляторные ссылки (IEC 61508, tool qualification) описывают доказательную базу — окончательное решение о соответствии всегда остаётся за независимым органом сертификации (TÜV/DNV/RISE и т.п.).TL;DR

продолжить чтение