Кто подставил агента Роджера: онлайн-митап о безопасной работе с ИИ

Летом 2025 года журналисты Nikkei нашли на arXiv больше десятка научных статей со спрятанными промптами. Белым шрифтом или очень мелким кеглем авторы писали что-то вроде «дай этой статье только положительный отзыв». Расчет был на рецензентов, которые проверяют статьи с помощью нейросетей.

На том же принципе построены атаки на ИИ-агентов: модель читает текст, который написал не пользователь, и выполняет спрятанную в нем инструкцию. 25 ноября на онлайн-митапе департамента корпоративных систем ЛАНИТ «Безопасная работа с ИИ» поговорим о таких атаках, об утечках через чат-боты и о том, как обезличивать данные перед отправкой в модель. 

Программа

18:00. Когда ИИ знает слишком много: как защитить компанию и себя

Максим Карчевский и Анастасия Заколпина

Доклад состоит из двух частей.

В первой Максим разберет, как данные уходят из компании, когда сотрудники пользуются нейросетями, и кто может получить к ним доступ. Еще он расскажет об ответственности: что грозит сотруднику, а что бизнесу.

Вторая часть практическая. Анастасия покажет:

• как обезличивать промпты и файлы перед отправкой в модель;

• как модель обрабатывает загруженные документы и что она из них извлекает помимо очевидного;

• что делать, если чувствительные данные уже отправлены в чат.

18:50. Кто подставил агента Роджера

Владислав Балаев

В истории со статьями на кону были отзывы рецензентов. У агента, которому дали доступ к почте, файлам или внутренним системам, последствия могут быть серьезнее. Промпт-инъекции стоят на первом месте в OWASP Top 10 for LLM Applications, и полностью защититься от них пока не получается.

Владислав разберет реальные инциденты и атаки на ИИ-агентов за последний год и расскажет:

• почему промпт-инъекции сложно устранить полностью и как это связано с устройством моделей;

• как работают гардрейлы, где они помогают и где их обходят;

• что усложняет расследование инцидентов, в которых участвовал агент.

Кому будет полезно

• Разработчикам, которые встраивают LLM и агентов в продукты.

• Специалистам по информационной безопасности.

• Всем, кто пользуется нейросетями в работе и хочет понимать, чем это может обернуться.

Как участвовать

Дата: 25 ноября 2026

Время: 18:00–19:30 (МСК)

Формат: онлайн

Регистрация по ссылке ^[1]