Анти‑паттерн ИИ: Смертельная триада
Каждую неделю мы обсуждаем новую дыру в ИИ‑агентах. Здесь была промт‑инъекция. Там утекли секреты. Тут агент удалил базу, а у них отправил письмо не тому человеку. Складывается ощущение, что уязвимостей становится всё больше. На мой взгляд, почти все они сводятся к одному архитектурному анти‑паттерну. Если научиться замечать его, многие проблемы станут очевидны ещё на этапе проектирования. В русскоязычных публикациях эту модель в основном упоминают вскользь; подробных разборов почти нет. Мне же кажется, что это настолько общий принцип, что он заслуживает отдельной статьи.
