Java.
Токсичный контент, промпт-хакинг и защита ИИ — всё о Guardrails для LLM
Когда мы говорим о безопасности веб-приложений, у нас есть десятилетия накопленного опыта. SQL-инъекции, XSS, CSRF — всё это давно задокументировано, есть готовые инструменты защиты, best practices и целые фреймворки безопасности. Но когда в архитектуру приложения добавляется языковая модель, картина кардинально меняется.LLM — это не функция с предсказуемым поведением. Это вероятностная система, которая может быть убеждена изменить своё поведение правильно составленным текстом. И это фундаментально новый класс уязвимостей, к которому большинство разработчиков пока не готовы.
Guardrails для LLM на Java: как приручить промпт‑инъекции и токсичные ответы
System prompt — это просьба. Guardrails — это принуждение.1. ВведениеКогда я впервые внедрял LLM в production-сервис, схема безопасности выглядела примерно так: написать хороший system prompt, поставить галочку «мы всё предусмотрели» и жить дальше. Жизнь не дала долго наслаждаться этим спокойствием — первый же тест показал, что пользователи довольно быстро находят способы заставить модель «забыть» всё, что мы написали в системном промпте.Проблема фундаментальная: system prompt — это инструкция, которую LLM старается выполнить, но не обязан
Вайб-код для настоящих инженеров: старые практики в новых реалиях
Итак, вопреки утверждениям скептиков (среди которых не так давно был и я) ИИ-разработка с двух ног влетела в настоящую промышленную эксплуатацию, и мем уже совсем не тот: не джун теперь роняет прод, а нейросеть убивает статистику доступности гитхаба, амазона, Cloudflare и даже самой мекки вайб-кодинга — сервисов Anthropic и OpenAI.
Миграция с CUBA Platform на Jmix с помощью ИИ
Многие команды продолжают использовать приложения на платформе CUBA, которые хорошо работают и ежедневно решают реальные бизнес-задачи. Но со временем неизбежным становится вопрос: стоит ли продолжать поддерживать приложение на старом стеке или лучше перенести его на Jmix?
Вебинар «Вайб-кодинг в энтерпрайз: 5 блокеров и путь к управляемой разработке»
ИИ уже активно используется в разработке и ускоряет написание кода. Но в энтерпрайз-среде стало очевидно, что скорость не равна качеству.Что это значит?При использовании ИИ хаос усиливается и масштабируется вместе с системой. Если архитектура, контекст и правила заданы слабо, ИИ начинает воспроизводить ошибки быстрее, чем команда успевает их обнаружить и исправить.🚀 21 апреля (16-00 по мск) команда Джеймикс проводит вебинар на тему:«Вайб-кодинг в энтерпрайз: 5 блокеров и путь к управляемой разработке».Спикер: Руководитель продукта Джеймикс Виктор Фадеев.
Виды тестирования ПО: статика, динамика и 5 уровней, которые работают на практике
Всем привет, меня зовут Сергей Прощаев, и в этой статье я расскажу про виды тестирования и лучшие практики, которые реально работают в полевых условиях.
Как мы научили AI-агента пользоваться IDE: дебаг, рефакторинг и run-конфигурации. Что нового в Veai 5.8
Дебаг, запуск проекта и рефакторинг. Все мы хорошо знакомы с этими фичами IDE и пользуемся ими практически каждый день. Но передовые ИИ-агенты для кодинга почему-то абсолютно ничего не знали про эту “базу” до релиза Veai 5.8 (ИИ-агент к JetBrains IDEs для написания кода, тестирования и отладки с доступом к топовым LLM и всем внутренним инструментам IDE) :) Помимо глубокой интеграции агента с вашей любимой IDE, мы завезли ещё парочку улучшений и изменили подход к тарификации. Но обо всём по порядку.Debug Mode: агент теперь умеет работать с дебаггером IDE
Десктопный агент «Союз»: безопасный и бесплатный, теперь Open Source
Когда смотришь на рынок AI-агентов, создаётся впечатление, что все соревнуются в одном и том же: кто даст модели больше инструментов, больше доступа и больше свободы. Мы попробовали зайти с другой стороны. Что будет, если не наваливать возможностей без разбора, а думать в первую очередь о безопасности и предсказуемости? Так и появился «Союз». Сегодня мы с товарищем открываем исходники, а я расскажу, как мы к этому пришли и почему такой подход вообще сработал.Обзор и ссылки на исходники в конце статьи.Начало: написать агента может каждый
Директории в чате, очередь сообщений и авто-retry: Veai 5.7
Релиз Veai 5.7 (ИИ-агент к JetBrains IDEs для написания кода, тестирования и отладки с доступом к топовым LLM и всем внутренним инструментам IDE) собрал в себе много исправлений неочевидного UX, с которым вы сталкивались ежедневного. Меньше ручных переключений, меньше ожидания между шагами, меньше повторов при сбоях.Директории в контексте чата
