FlautGuard: как мы построили многоуровневую защиту LLM от prompt injection и утечек данных
Защита языковой модели отличается от защиты обычного веб-приложения одной принципиальной особенностью: пользовательский ввод для LLM — это не только данные, но и потенциальная инструкция.В обычном приложении строка остаётся строкой. В LLM пользовательский текст интерпретируется самой моделью, поэтому граница между «данными» и «командой» становится значительно менее очевидной.Отсюда появляются prompt injection, попытки извлечения системных инструкций, обход ограничений и утечки информации через ответы модели.С этой проблемой мы столкнулись при разработке FlautFast — нашей LLM внутри инфраструктуры FlautCompany.
Почему MoE-модель тормозит? Чек-лист из трех шагов
Автор перевода и адаптации статьи - Данил Г., Python-разработчикДля кого эта статьяВы запускаете большую MoE‑модель (например, Qwen, DeepSeek, Mixtral) на локальной машине через llama.cpp / llama-server
Топ-7 ИИ-трендов, которые тихо умерли
Нашел на Reddit интересный тред с простым вопросом: «Какой AI-тренд тихо умер?» Сам недавно рассуждал об этом же — много с чем не согласен, но материал классный, решил сделать из него пост.
От чата вместо форм до разработки без конфигуратора: что меняется в экосистеме 1С
ИИ в разработке постепенно перестает быть отдельной экспериментальной темой. Его встраивают в IDE, подключают к корпоративным системам через MCP, используют для создания приложений и подготовки кода. Одновременно появляются новые среды, плагины и подходы к архитектуре данных.
Как использовать LLM в тестировании: разбираем harness, автотесты и LLM-судью
Поговорим об этом на Bugs Busters — бесплатном митапе ЮMoney для QA-специалистов. В программе — три доклада о задачах, с которыми тестировщики уже сталкиваются при работе с LLM:как устроен LLM-harness и зачем агенту нужна обвязка;как собрать помощника на базе ИИ для разбора падений автотестов;как понять, подходит ли конкретная LLM для вашей задачи, и сравнивать модели с помощью LLM-судьи.Покажем не только идеи, но и практические подходы с инструментами, которые используем в работе.Когда:
Мы опросили 108 компаний, чтобы узнать правду про развитие AI в компаниях РФ
Привет! Я Никита Векессер, Product Owner AI-продуктов в Orion soft.Что представляет собой реальная практика внедрения ИИ в России? В этой статье я хочу показать статистику, которую мы честно собрали на российском enterprise-рынке, и дополнить ее нашим опытом. Без претензии на абсолютную истину расскажу, как развитие AI в России выглядит с нашей стороны.
Гигаватты на бумаге: ИИ-бум упирается не в чипы, а в розетку
По прогнозу* Международного энергетического агентства (МЭА), к 2030 году дата-центры, ИИ и криптовалюты должны суммарно потреблять около 945 ТВт·ч в год — столько же, сколько сейчас потребляет вся Япония. Центр тяжести этого предложения — в слове «должны». Как бы ни прекрасна была мечта об AGI, снимающем с человека бремя забот или развязывающего геноцид мясных мешков (как повезет), все низменно и редукционистски упирается в банальную проблему — а где брать энергию?
Не еще один чат-бот: как ИИ-агентов встраивают в корпоративные процессы
Корпоративный ИИ постепенно выходит за пределы диалогового окна. Чтобы языковая модель приносила пользу бизнесу, ей недостаточно уметь отвечать на вопросы. Она должна получать разрешенные данные из информационных систем, работать по заданному сценарию и выдавать результат, который сотрудник может использовать в конкретном процессе.Такой подход лежит в основе платформы ИИ-агентов, которую развивает Инфостарт. Ее ключевая идея - создавать не универсального цифрового помощника, а отдельных агентов с определенной ролью, источниками данных, правилами и форматом результата. Об этом появилась
В Microsoft начали сравнивать стоимость используемых сотрудниками ИИ‑инструментов
В этом году сотрудники Microsoft сравнивают не только свои зарплаты, но и объёмы использования ИИ. Внутренняя электронная таблица, с которой ознакомилось издание Business Insider, показывает, что сотни работников добровольно сообщают не только о повышении зарплаты, бонусах и акциях, но и о стоимости инструментов ИИ, которые они использовали за последний месяц. Сама компания предлагает внутренний инструмент для этого.
Мозг как интерфейс, человек как модель: четыре технологии на границе психологии
Разговор о технологиях в психологии обычно быстро сводится к знакомому набору: браслет измеряет пульс и сон, приложение следит за настроением, чат-бот предлагает подышать. Полезно, местами удобно, но ничего принципиально нового с человеком здесь не происходит.Самое интересное сейчас происходит в лабораториях, где психология перестаёт ограничиваться опросником и разговором. Алгоритмы уже работают с моделями поведения и мозговой активностью, а инженеры учатся воздействовать на нейронные цепи без хирургического вмешательства.

