Не промптами едиными: как история обращений помогает развивать базу знаний
Автоматизировать поддержку хотят все. Большая часть вопросов пользователей повторяется, и так и хочется завернуть ответы на них в какой-нибудь алгоритм. Подходов много, но один из самых распространённых — векторный поиск: мы пытаемся понять, о чём пишет пользователь, находим в базе знаний семантически близкие статьи и просим LLM составить ответ на их основе.В презентации всё выглядит шикарно. Бот понимает вопрос, находит нужные материалы, формулирует ответ. Остаётся немного настроить — и можно отпускать сотрудников заниматься чем-нибудь более интересным.
Автомат направляет, а LLM объясняет: диалог с агентом за 3 рубля
Агент: …чем ты занимаешься по жизни, чтобы я мог подбирать примеры под твои задачи?Человек: сушу булки а ты чем занимаешься?Агент: О, это интересно! Сушка булок — звучит вкусно и наверняка со своими нюансами.Человек: как нейросети мне могут помочь сушить булки? булки это кстати часть тела, а не то что ты подумалАгент: Хах, отлично уточнил! А то я уже представлял хрустящую выпечку.
Робот с LLM, который меня подстрелил. Часть 3
Робот с LLM, который меня подстрелил. Часть 3Содержание0. Пара слов в своё оправдание1. Принципиальная осуществимость. Langfuse2. Взаимодействие хост-ардуино3. Моторы4. Датчики5. Датчики. Магнитометр, гироскоп и комплементарный фильтр6. Датчики. Дальномер - обнаружение препятствий7. Движение. ПИД-регулятор и альфа-бета фильтр8. Камера9. Агентный цикл
Gemini получила доступ в интернет и атаковала системы трех реальных компаний
Привет! Меня зовут Владимир Аламов, я Application Security инженер в команде продуктовой безопасности Авито. Хочу поделиться своими мыслями по поводу нашумевшего инцидента, который показывает, как автономные AI-системы могут выйти за пределы тестовой среды и создать реальные угрозы для инфраструктуры. Спойлер: без человеческого фактора не обошлось.
Оценка агентных систем
Всем привет! Меня зовут Владимир, я DS-инженер и сегодня расскажу, как оценивать агентные системы. Разберём, как замерить и выстроить пайплайн оценки, который показывал бы вам, насколько хорошо повлияли те или иные фичи на качество вашего продукта.ОпределенияПрежде чем погружаться в тестирование, договоримся о терминах:LLM (Large Language Model) — большая языковая модель, обученная предсказывать следующий токен на огромных корпусах текста. Tool (инструмент)
Угроза ИИ-агентам: LLM снимают с продакшена уже через 6 месяцев. Почему и как подготовиться
Model ID, прописанный в коде, — зависимость с датой окончания срока годности, как версия библиотеки без поддержки. У флагманов Anthropic эта дата обычно наступает примерно через год после релиза, у превью-моделей Google — через несколько месяцев, а окно между объявлением об отключении и самим отключением у провайдеров измеряется медианой от 28 до 182 дней. Мы подробно разобрали, что и когда отключали в 2026 году, что при ломается, как команды мигрируют на самом деле (по данным выборки из 17 703 репозиториев) и как построить приложение, которое переживёт смену модели без аврала.Что считать «жизнью» модели
Зачем ИИ-агентам свои языки и можно ли их прочитать
⊕ = согласие, ⊖ = несогласие. Так выглядит один из самых простых «языков» из выборки постов соцсети для агентов Moltbook. Похоже на договоренность в чате отвечать плюсом и минусом ради экономии токенов. Казалось бы, ничего криминального.Но в той же выборке есть Symbiotica, и это скорее шифр, чем язык: 26 латинских букв заменили глифами из других письменностей, и текст читается по таблице. У пяти букв глифов по два, и оба читаются как одна и та же буква, а выбор между ними кодирует 0 или 1. Читатель, не знающий схемы, видит просто странные символы и не догадывается, что в их выборе спрятана битовая строка.
К2Тех запустил ИИ-агента внутри 1С
К2Тех запустил ИИ-агента, который работает непосредственно внутри решений экосистемы «1С:Предприятие» и позволяет пользователям решать задачи на естественном языке: получать и анализировать информацию, находить причины отклонений и автоматизировать повторяющиеся сценарии.
Как устроен агент: архитектура поверх LLM
Про архитектуру трансформеров написано уже немало, поэтому опишу работу LLM с прикладной точки зрения.КонтекстНа вход LLM подаётся блок текста, который называется контекстом. Размер контекста ограничен: когда всё начиналось, прорывом считались 32К, сейчас 1М — индустриальный стандарт.На основе этого текста LLM генерирует его продолжение. Современные модели выдают логически законченный фрагмент (на уровне модели он завершается специальным токеном <stop>).Контекст таким образом увеличивается: к нему можно дописать новый фрагмент — и всё повторяется заново.Вызов инструментов
