Атаки на агентные системы и защита данных
Привет, Хабр!Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Когда ИИ‑агент перестаёт быть просто диалоговой системой и получает права на чтение файлов, отправку писем, вызов API или работу с репозиториями, он становится объектом нового класса угроз.Ошибка превращается в действие, а вредоносная инструкция — в реальный ущерб.В этой статье мы разберём, как устроены атаки на агентные системы, на реальных примерах и без отрыва от технических деталей.Почему ИИ‑агент — особая мишень
Что российские BI‑вендоры называют AI‑агентом? Мы проверили 11 решений и собрали целый зоопарк
Чем отличается настоящий аналитический агент от генератора SQL, почему семантический слой важнее размера языковой модели и почему локальная LLM ещё не означает технологическую независимость?В 2026 году AI‑ассистент или AI‑агент появился едва ли не у каждого российского BI‑вендора. Проблема в том, что одинаковая наклейка «AI» скрывает совершенно разные механизмы: где‑то это чат к данным, где‑то генератор SQL, где‑то помощник разработчика дашбордов, а где‑то — мультиагентная система с оркестратором, отдельными ролями и проверкой результата.
На наших глазах творится история: OpenAI заявили, что их ИИ решил задачу тысячелетия
Еще несколько лет назад мы проверяли нейросети вопросами вроде «сдаст ли ChatGPT экзамен» и «сможет ли написать рабочий код с первого раза». Планка довольно быстро уехала куда-то совсем в другую сторону.8 сентября OpenAI опубликовала работу, в которой утверждает, что ее экспериментальная ИИ-система нашла решение задачи существования и гладкости уравнений Навье–Стокса.Это одна из семи знаменитых задач тысячелетия. За решение каждой Clay Mathematics Institute назначил премию в $1 млн. За четверть века из списка официально закрыли только одну: гипотезу Пуанкаре.
В Digital Q.Agents от «Диасофт» появился ИИ-секретарь для протоколирования и анализа встреч
Компания «Диасофт» реализовала на платформе Digital Q.Agents ИИ-агента-секретаря, который подключается к онлайн-встречам вместе с участниками и работает непосредственно во время разговора. ИИ-агент может слышать речь, реагировать на обращение по имени, писать в чат конференции и отвечать голосом.
Обвязка вокруг модели даёт столько же, сколько сама модель: разбираю харнесс по слоям
Разбор харнессов ИИ‑агентов: как они устроены на обычном проекте, какими бывают — и что показал машинный журнал живого проектаПилю офлайн‑заметочник Nitinol и пишу об этом статьи. В первой части рассказывал, как десять лет терял заметки, во второй — про хранение и поиск без RAG, в третьей
Обвязка решает
Разбор харнессов ИИ-агентов: как они устроены на обычном проекте, какими бывают — и что показал машинный журнал живого проектаПилю офлайн-заметочник Nitinol и пишу об этом статьи. В первой части рассказывал, как десять лет терял заметки, во второй — про хранение и поиск без RAG, в третьей
Семь ИИ‑моделей получили по $300 и три дня, чтобы заработать. Выручка — $0
Рандомные картинки на тему ИИ ставить на КДПВ не стал, сделал картинку «на тему»
Как мы автоматизировали 10 отделов продаж с помощью ИИ
У РОПа есть знакомая проблема. Звонков много. Времени мало. Менеджеры работают по разному. А понять почему план снова не выполняется нужно уже сегодня. Обычно контроль выглядит так. Руководитель выбирает несколько записей. Слушает их в дороге или вечером. Находит пару ошибок. Потом проводит разбор. Через неделю ситуация повторяется.Проблема не в самом разборе. Проблема в выборке. Пять случайных разговоров не показывают что происходит в отделе на самом деле. Сильный менеджер может попасть в удачный день. Новичок может провести один хороший звонок. А ошибки которые съедают конверсию останутся в остальных записях.В
