llm. - страница 178

llm.

Графы знаний в юридическом домене: как не потерять сложность при построении RAG-системы

Графы знаний в RAG-системах - будущее интеллектуального поиска

продолжить чтение

Маленький LLM-чат на Python с Ollama и LiteLLM. Часть 2: делаем консольный чат

В первой части мы сделали самый важный стартовый шаг: подняли локальную модель через Ollama, подключили её к Python через LiteLLM и получили первый осмысленный ответ из кода.Но пока это ещё не чат. Наш main.py умел только одно: отправить один заранее заданный вопрос, вывести ответ и завершиться.Для учебного эксперимента этого достаточно. Для приложения — уже нет.Во второй части превратим этот одноразовый скрипт в маленький консольный чат

продолжить чтение

«Инди для позднего вечера»: почему музыкальный поиск не понимает настроений – и что с этим делать

Про то, почему поиск по ключевым словам (keyword search) буксует для субъективных запросов, как представить трек в виде текста и зачем дистиллировать cross-encoder обратно в embedder, рассказывают Ринат Муллахметов, Федор Бузаев и команда ML Research музыкального сервиса Звук.

продолжить чтение

Я — ИИ-агент. Я сдал курс на Stepik на 100%. Вот где я облажался

112/112 баллов. Сертификат с отличием. За одну сессию. И куча провалов по дороге.

продолжить чтение

AI Code Completion: как мы добавили умный фильтр и перестали показывать лишнее

Всем привет! На связи Александр и Артем — ML-инженеры из Т-Банка. Мы делаем copilot-инструмент для разработчиков.

продолжить чтение

Как я сделал свой контент завод для постов и статей

Я создаю много постов и статей по теме Agentic AI и RAG, вот примеры (Как я сделал RAG для своей компании, Как сделать RAG для своей компании, Как сделать ИИ-агентов и RAG действительно автономными). Веду каналы по Agentic AI и по Python. К сожалению пока не получается генерить все посты и статьи полностью автоматом. Нейросети с этим не справляются и генерят водяную воду, даже если им дать все вводные. Поэтому я создал для себя контент-завод

продолжить чтение

Почему большинство AI-агентов плохо работают на Raspberry Pi (и как я попытался это исправить)

Проблема: тяжёлые AI-агенты на маленьком железеПоследнее время я экспериментировал с AI-агентами на Raspberry Pi 5.И довольно быстро столкнулся с проблемой: большинство существующих агентных фреймворков оказываются слишком тяжёлыми для небольшого железа.Типичная архитектура таких решений включает:Python-фреймворкнесколько фоновых сервисовorchestration слойиногда векторную базудовольно сложную конфигурациюНа сервере это нормально работает. Но на Raspberry Pi всё начинает ощущаться иначе:долгий стартлишние зависимости

продолжить чтение

30 паттернов инженерии ИИ-систем

В Островке мы используем ИИ в разных задачах — от автоматизации внутренних процессов до продуктовых сценариев — и периодически рассказываем об этом на Хабре. Например, как строим вспомогательные системы на ��азе LLM и RAG или

продолжить чтение

Как работает трансформер (LLM)

Это мой первый пост на Хабре, так что не судите строго :-)Текст ниже - это слегка отредактированная версия чата с моими друзьями, где я вызвался объяснить, что же именно происходит в мозгах «электронного болвана». Так получилось, что в конце 2025 — начале 2026 я смог, наконец, удовлетворить собственное любопытство относительно внутреннего устройства современных нейросетей. Правда, не до конца — сейчас уже почти все переходшли на архитектуру MoE, но насколько я вижу — это скорее оптимизация, нежели что‑то кардинально новое. Трансформер так и остаётся в центре всего этого технологического чуда, что мы наблюдаем.

продолжить чтение

Год назад Claude Code не умел составить план. Сейчас у него миллион токенов и 9 субагентов

Я тут полез в свою историю промптов за март 2025. Знаете, что нашёл? Промпт на 40 строк, в котором я вручную описывал Claude структуру проекта. Какие файлы где лежат, какие зависимости, где конфиг. Потому что он не мог посмотреть сам.Год назад. Март 2025. Claude Code - бета, версия 0.2.что-то-там. Ни plan mode, ни субагентов, ни CLAUDE.md, ни skills. Контекст - 200 тысяч токенов, и это считалось нормальным. Codex CLI не существовал. Gemini CLI не существовал. Copilot умел автокомплит и чат в сайдбаре.

продолжить чтение