llm. - страница 234

llm.

Как я сделал свой контент завод для постов и статей

Я создаю много постов и статей по теме Agentic AI и RAG, вот примеры (Как я сделал RAG для своей компании, Как сделать RAG для своей компании, Как сделать ИИ-агентов и RAG действительно автономными). Веду каналы по Agentic AI и по Python. К сожалению пока не получается генерить все посты и статьи полностью автоматом. Нейросети с этим не справляются и генерят водяную воду, даже если им дать все вводные. Поэтому я создал для себя контент-завод

продолжить чтение

Почему большинство AI-агентов плохо работают на Raspberry Pi (и как я попытался это исправить)

Проблема: тяжёлые AI-агенты на маленьком железеПоследнее время я экспериментировал с AI-агентами на Raspberry Pi 5.И довольно быстро столкнулся с проблемой: большинство существующих агентных фреймворков оказываются слишком тяжёлыми для небольшого железа.Типичная архитектура таких решений включает:Python-фреймворкнесколько фоновых сервисовorchestration слойиногда векторную базудовольно сложную конфигурациюНа сервере это нормально работает. Но на Raspberry Pi всё начинает ощущаться иначе:долгий стартлишние зависимости

продолжить чтение

30 паттернов инженерии ИИ-систем

В Островке мы используем ИИ в разных задачах — от автоматизации внутренних процессов до продуктовых сценариев — и периодически рассказываем об этом на Хабре. Например, как строим вспомогательные системы на ��азе LLM и RAG или

продолжить чтение

Как работает трансформер (LLM)

Это мой первый пост на Хабре, так что не судите строго :-)Текст ниже - это слегка отредактированная версия чата с моими друзьями, где я вызвался объяснить, что же именно происходит в мозгах «электронного болвана». Так получилось, что в конце 2025 — начале 2026 я смог, наконец, удовлетворить собственное любопытство относительно внутреннего устройства современных нейросетей. Правда, не до конца — сейчас уже почти все переходшли на архитектуру MoE, но насколько я вижу — это скорее оптимизация, нежели что‑то кардинально новое. Трансформер так и остаётся в центре всего этого технологического чуда, что мы наблюдаем.

продолжить чтение

Год назад Claude Code не умел составить план. Сейчас у него миллион токенов и 9 субагентов

Я тут полез в свою историю промптов за март 2025. Знаете, что нашёл? Промпт на 40 строк, в котором я вручную описывал Claude структуру проекта. Какие файлы где лежат, какие зависимости, где конфиг. Потому что он не мог посмотреть сам.Год назад. Март 2025. Claude Code - бета, версия 0.2.что-то-там. Ни plan mode, ни субагентов, ни CLAUDE.md, ни skills. Контекст - 200 тысяч токенов, и это считалось нормальным. Codex CLI не существовал. Gemini CLI не существовал. Copilot умел автокомплит и чат в сайдбаре.

продолжить чтение

Маленький LLM-чат на Python с Ollama и LiteLLM. Часть 1: ставим окружение и пишем первый запрос

Во многих туториалах по LLM всё начинается с API-ключей, платных токенов и облачных сервисов. Это рабочий путь, но для первого знакомства он не самый удобный: нужно регистрироваться, разбираться с биллингом и постоянно помнить, что каждый эксперимент что-то стоит.Здесь пойдём проще. В этой серии мы соберём маленький LLM-чат на Python, который сначала будет работать локально: модель запускается через Ollama, а Python-код общается с ней через LiteLLM.Это хороший стартовый маршрут по трём причинам:не нужны API-ключи;не нужен интернет для каждого запроса;

продолжить чтение

Анонимная модель неделю держала топ OpenRouter. Это оказалась модель от Xiaomi

На OpenRouter неделю держалась анонимная модель Hunter Alpha. Многие LLM-провайдеры часто делают так с новыми моделями, чтобы затестить на реальных пользователях.

продолжить чтение

Генеральный директор не делает холодные звонки: как мы разделили роли LLM и сэкономили бюджет на AI-разработке

Привет, Хабр! Меня зовут Семен, руководитель команды разработки продукта, мы небольшая команда стартапа, которая занимается внедрением ИИ в бизнес-процессы. Как это часто бывает, пытаясь автоматизировать работу других, мы столкнулись с классической проблемой у себя дома: острой нехваткой времени и рабочих рук.

продолжить чтение

BMG подала в суд на Anthropic: компанию обвиняют в использовании текстов песен для обучения AI

продолжить чтение

Операционная система Анна

Идея этого проекта родилась у меня после двух событий.Первое случилось в самолёте. Мне было нечем заняться, и я решил посмотреть фантастический фильм «Она» (Her, 2013). Я человек впечатлительный, и если в истории есть драма, то легко начинаю сопереживать героям. Фильм рассказывает об одиноком мужчине, который устанавливает ИИ-операционную систему, начинает с ней общаться и постепенно влюбляется в неё. Спойлерить не буду - фильм действительно стоит посмотреть.Второе событие - это хайп вокруг OpenClaw

продолжить чтение