Кто подставил агента Роджера: онлайн-митап о безопасной работе с ИИ
Летом 2025 года журналисты Nikkei нашли на arXiv больше десятка научных статей со спрятанными промптами. Белым шрифтом или очень мелким кеглем авторы писали что-то вроде «дай этой статье только положительный отзыв». Расчет был на рецензентов, которые проверяют статьи с помощью нейросетей.На том же принципе построены атаки на ИИ-агентов: модель читает текст, который написал не пользователь, и выполняет спрятанную в нем инструкцию. 25 ноября на онлайн-митапе департамента корпоративных систем ЛАНИТ «Безопасная работа с ИИ»
Про обиженных криэйторов, или Кто кому должен за нейросеть
Прелюдия: ещё один коллективный иск к облакуЧитаю очередную волну возмущения. Владельцы сайтов, художники, музыканты, фотографы — все те, кого объединяет емкое слово «криэйторы», — требуют сатисфакции. ИИ, видите ли, обучался возможно на их контенте. И теперь должен. Потому что «конскую цену за работу» уже не выставишь: у заказчика появилась опция сгенерировать за три копейки.Я смотрю на это и вижу две проблемы. Одна — логическая. Вторая — антропологическая. Обе неприятны для обиженных.Проблема первая: абсолютный поход в справедливость
Какое качество реально достижимо в LLM проектах?
В этой статье рассмотрим все способы повышения качества работы одной ноды. Затем разберём, что происходит в цепочках последовательных вызовов.Главная мысль автора заключается в том, что на проде вам вряд ли удастся добиться качества ответов всей системы выше 90%. Лучше изначально ориентироваться на этот показатель, поскольку некоторые проекты из-за высокой стоимости ошибки никогда не сойдутся.Будем разбираться на примере определения кода услуги для 402-й формы. На первый взгляд задача простая: по названию услуги нужно выбрать соответствующий класс.Например, в справочнике есть такие категории:
Как рисовать BPMN диаграммы для процессов LLM оптимизации
Я работаю в Альфа Банке в команде, которая пытается оптимизировать валютный контроль. За время проекта, я с экспертом отрисовал большое кол-во диаграмм и вот пару лайфхаков, которые я понял.AS ISРисуем AS IS. На данном этапе пока что ничего не меняется. Мы как и в обычном проекте пытаем максимально точно описать существующий процесс.TO BEЗдесь уже начинаются свои приколы. Прежде всего мы должны разделять каким способ выполнятеся нода - LLM и КОД. (Всё, что можно сделать кодом, надо делать кодом). Я предлагю добавить на диаграмму легенду и выделять узлы реализованые
Meta* сделала свою самую маленькую модель рабочей лошадкой для агентов
После релизов гигантских и дорогих нейросетей хочется найти что-то, что подойдет под понятия экономии и специализации. И вот 9 ноября подразделение Meta* Superintelligence Labs выпустило
Disney начала испытания роботов‑помощников с ИИ для помощи в поиске парковочных мест в своих парках развлечений
Компания Walt Disney начала тестирование роботов‑помощников с искусственным интеллектом для помощи в поиске парковочных мест в своих парках развлечений. Дизайн этих роботов вдохновлён персонажами мультфильмов «ВАЛЛ‑И» и «Тачки».

