FlautGuard: как мы построили многоуровневую защиту LLM от prompt injection и утечек данных
Защита языковой модели отличается от защиты обычного веб-приложения одной принципиальной особенностью: пользовательский ввод для LLM — это не только данные, но и потенциальная инструкция.В обычном приложении строка остаётся строкой. В LLM пользовательский текст интерпретируется самой моделью, поэтому граница между «данными» и «командой» становится значительно менее очевидной.Отсюда появляются prompt injection, попытки извлечения системных инструкций, обход ограничений и утечки информации через ответы модели.С этой проблемой мы столкнулись при разработке FlautFast — нашей LLM внутри инфраструктуры FlautCompany.
Мы опросили 108 компаний, чтобы узнать правду про развитие AI в компаниях РФ
Привет! Я Никита Векессер, Product Owner AI-продуктов в Orion soft.Что представляет собой реальная практика внедрения ИИ в России? В этой статье я хочу показать статистику, которую мы честно собрали на российском enterprise-рынке, и дополнить ее нашим опытом. Без претензии на абсолютную истину расскажу, как развитие AI в России выглядит с нашей стороны.
Безопасность ИИ входит в ТОП-5 приоритетов четверти российских корпораций
К2 Кибербезопасность и «Лаборатория Касперского» провели исследование
Бытовые периферийные устройства оказалось легко взломать с помощью ИИ‑агентов
Исследователь рассказал, что в последние несколько недель он занимался реверс‑инжинирингом периферийных устройств, используя ИИ‑агентов. В результате он получил полноценную командную оболочку в текстовом формате внутри микрофона, а также смог выключать индикатор активности веб‑камеры и активировал индикатор на клавиатуре, который выдаёт команды на запись в память любому пользователю Wi‑Fi.
От ИИ в 1С до киберустойчивости: программа Петербургского цифрового хаба
Петербургский цифровой хаб - 2026
Ботовый трафик против человеческого — кто победит в этой схватке?
Идея так называемого «мертвого интернета» витает в воздухе довольно давно (если мне не изменяет память, уже в 2014 году были робкие высказывания в поддержку этой теории), но с каждым годом голоса тех, кто считает ее реальной, становятся громче. И действительно, развитие ИИ, автоматизации, парсинга ресурсов способствует наводнению интернета ботами. Но так ли все критично, как кажется на первый взгляд?Мы решили изучить, что происходит в современном интернете с точки зрения человеческого и ботового трафика и разобраться, так ли близок «мертвый интернет» или это все еще напоминает теорию заговора.
Как отправить данные из 1С в нейросеть и получить ответ обратно с настоящими именами и суммами
Почему обычной маскировки недостаточно, зачем нужна обратимость, как сохранить смысл чисел и почему суммы нельзя просто заменить случайными? Написали обработку, которая действительно заменяет персональные и платёжные реквизиты перед отправкой в модель и затем умеет расшифровать ответ обратно.В прошлой статье мы разбирали, как передать копию базы 1С подрядчику без реальных персональных данных.Но есть более локальный сценарий: базу передавать не нужно, а вот отдельную выгрузку хочется отдать нейросети на анализ.Например, попросить:
Что нового в Claude Code: разбор восьми августовских релизов
С 13 по 21 августа Anthropic выкатила восемь версий Claude Code, с 2.1.232 по 2.1.239. Список читается как обычные патчи CLI, пока не замечаешь, что почти всё в нём про одно: агентов у вас будет много, и работать они будут долго.Ниже — что реально приехало. Часть я прогнал на своей машине с 2.1.239 под Linux, часть взял из официального changelog, и я отмечаю, где что.Агенты перестали быть одиночкамиГлавное изменение серии лежит в 2.1.232, и его легко пропустить за строчкой про subagent forking.Субагент, запущенный с subagent_type: "fork", теперь наследует весь контекст текущего разговора и prompt cache
Роспотребнадзор и ФАС дойдут и до сайтов: как настроить автопоиск и замену иностранных слов с помощью LLM
Привет, я Александр Бондаренко, эксперт по комплаенсу и руководитель проектной группы в Далее. Еще до выхода «закона о защите русского языка» мы стали искать быстрый способ вычистить сайты от недопустимых заимствований и «латиницы».В итоге создали алгоритм с многоступенчатым фильтром, OCR и LLM. Система находит в контенте только недопустимые слова и тут же предлагает русские аналоги. На выходе получаем результат в 20 раз быстрее, чем при адаптации текста вручную.
