Как мы обучили детектор джейлбрейков для русскоязычных AI-агентов
Привет, Хабр! На связи команда R&D в Just AI, мы занимаемся исследованиями в области NLP и GenAI, чтобы продукты компании держали статус SOTA на рынке. В частности мы отвечаем за guard-модели и бенчмарки для продукта Jay Guard, о которых и пойдет речь в этой статье.
Запустить LLM локально: что считать до покупки видеокарты?
Всем привет, меня зовут Сергей Прощаев, я Tech Lead и руководитель направления Java/Kotlin‑разработки в FinTech & E‑commerce, преподаю на курсах разработки и архитектуры в ОТУС.В этой статье расскажу про домашний стенд для локального инференса
От «магии» к инженерии: 9 ошибок работы с контекстом при внедрении AI‑агентов в процессы
Я бизнес‑архитектор, много лет работающий на стыке управления бизнес‑процессами и корпоративной архитектурой. Последние годы применяю LLM и AI‑агентов в своей практике.В этой статье я разобрал 9 типовых ошибок управления контекстом, которые совершают команды при внедрении AI‑агентов в бизнес‑процессы, и показал, как превратить AI‑агента из дорогой игрушки в предсказуемый рабочий инструмент.
Счастлив тот, кто смог познать причины вещей
В последнее время на стыке LLM и математики происходит много всего интересного и даже скандального. Что делать математикам с этой LLM-лавиной? Погребёт ли она математику или изменит её так, что и представить сложно?@avshkol перевел этот пост от 13 сентября 2026 года математика Нестора Гильена, опубликованный в блоге Теренса Тао
Внедрение AI в продукт: 9 ошибок продуктового менеджера
Привет, Хабр. Меня зовут Андрей Коптелов, я бизнес‑архитектор, много лет работающий на стыке управления бизнес‑процессами и корпоративной архитектурой. Одним из направлений моего развития является обучение, где я являюсь менеджером нескольких образовательных продуктов. Последние годы применяю LLM и AI‑агентов в своей практике. В этой статье я разобрал 9 ошибок продуктового менеджера при внедрении AI в продукты.
Как AI‑агент видит страницу. Контракт наблюдения между браузером и моделью
Пользователь открывает форму доставки и видит поле города, список пунктов выдачи, карту и кнопку «Продолжить». Браузерный агент получает ту же задачу, но сообщает, что не может найти пункт выдачи. Или находит кнопку, нажимает ее, а форма не отправляется.Обычно после такого начинают менять промпт, модель или локаторы. Но фраза «агент не видит элемент» еще не описывает проблему. Сначала нужно выяснить, что именно инструмент показал модели, как обозначил доступные цели и какое состояние вернул после действия.
Атаки на агентные системы и защита данных
Привет, Хабр!Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Когда ИИ‑агент перестаёт быть просто диалоговой системой и получает права на чтение файлов, отправку писем, вызов API или работу с репозиториями, он становится объектом нового класса угроз.Ошибка превращается в действие, а вредоносная инструкция — в реальный ущерб.В этой статье мы разберём, как устроены атаки на агентные системы, на реальных примерах и без отрыва от технических деталей.Почему ИИ‑агент — особая мишень
Семь ИИ‑моделей получили по $300 и три дня, чтобы заработать. Выручка — $0
Рандомные картинки на тему ИИ ставить на КДПВ не стал, сделал картинку «на тему»
Как говорить с искусственным интеллектом. Книга о промптах
Приветствуем, Хабр. Совсем недавно мы делали обзор о ближайших наших книгах, в которых рассматриваются большие языковые модели (LLM) и искусственный интеллект. В частности, там упоминалась книга Камиля Гадеева @Kamil_GRо промпт-инжиниринге и работе с LLM. Камиль Гадеев ведёт на Хабре превосходный научно-философский блог
