Экономия на спичках
Вечер четверга. Завтра совет директоров, а сводной аналитики по регионам все еще нет. Руководитель отдела продаж открывает 1С, выгружает несколько тысяч строк: ФИО клиентов, телефоны, суммы чеков, скидки, маржинальность по каждой сделке в CSV/Excel файл. Ручная сборка графиков займет остаток ночи, поэтому он открывает веб-интерфейс ChatGPT или Claude, загружает сохраненный файл выгрузки и пишет что-то вроде “сделай красивую аналитику по регионам для слайдов”. Сервис принимает файл, анализирует его с помощью встроенного Python-скрипта и выдает графики. Через минуту ответ готов, слайды спасены, руководитель доволен собой.
ИИ-агент работает, пока ему не дали доступ к реальным данным. Что ломается в проде?
На стенде ИИ-агенту легко быть умным. Все, что нужно для ответа, уже положили в контекст, а реальные системы оставили за пределами демо. В компании ему придется самому получать актуальные сведения из CRM, старой банковской системы, внутренних документов и сервисов. Для этого агенту выдают учетные данные и инструменты, то есть превращают его из чат-интерфейса в участника корпоративной системы. И только тогда выясняется: успешный пилот проверил возможности модели, но ничего не сказал о системе, которая должна снабжать ее данными, ограничивать и контролировать.
Перевёз ИИ-агентов на российский сервер. Оказалось, полмира с ним разговаривать не хочет,
Полгода мои агенты на Claude жили на зарубежном PaaS (Railway): пуш в репозиторий, автосборка, работает. В июле я перевёз всё на московский VPS. Сам переезд занял день. Разгребание последствий — неделю.Ниже — что именно отваливается, как я это диагностировал и чем чинил. Часть граблей описана в интернете разрозненно, часть я не нашёл нигде и выяснял логами.Главный вывод, к которому я пришёл не сразу, стоит вынести в начало: переезд в Россию — это не «сменить хостинг». Это обнаружить, что половина внешнего мира общается с вашим сервером односторонне.
Сотрудники сливают данные в чужой ИИ. Разбираемся чем это грозит
Дисклеймер: это не юридическая консультация. Я айтишник, к.т.н. и преподаватель ИТ-дисциплин, а не юрист. Ниже — взгляд практика, который учит сотрудников компаний работать с нейросетями и постоянно натыкается на эти вопросы вживую.За последний год я провёл серию корпоративных тренингов по использованию ИИ для рабочих офисных задач — в разных по размеру компаниях. И очень часто в перерыве кто-нибудь из участников подходит и вполголоса спрашивает — «а ничего, что я договор с клиентом закидывал в ChatGPT, чтобы он мне выжимку сделал?»
Промпт-инъекции в реальных данных, широкие права доступа и другие способы сломать ИИ-агента
Привет, Хабр! На связи команда Jay Guard — платформы, которая помогает безопасно использовать языковые модели и ИИ-агентов.Недавно мы опубликовали статью про ИИ-агента для HR-процессов. В комментариях почти сразу появились вопросы про данные — куда уходят персональные данные, что из этого видит LLM, что пишется в логи (журнал событий) и как все это соотносится с требованиями ИБ, 152-ФЗ и внутренними регламентами.
OpenAI Privacy Filter: красивая архитектура в суровых условиях русского бенчмарка
22 апреля 2026 года OpenAI выпустила OpenAI Privacy Filter
Разбор архитектуры и тест-драйв OpenAI Privacy Filter на бенчмарке персональных данных на русском
22 апреля 2026 года OpenAI выпустила OpenAI Privacy Filter
