Информационная безопасность. - страница 18

AI‑агент для закрытого контура: расширение VS Code под корпоративную LLM

В прошлой статье я писал про GitBor, git‑клиент, через который я проверяю, что на самом деле наворотил ИИ‑агент. Эта статья про самого агента. Делал я их параллельно. Один инструмент пишет код, второй показывает, что получилось.Модель хорошая, контекст короткийЗакрытый контур, энергетика, живая ИБ. Copilot и Cursor нам не светят, потому что код уходит на чужие серверы. Зато внутри есть свой шлюз с Qwen.

продолжить чтение

Gemini получила доступ в интернет и атаковала системы трех реальных компаний

Привет! Меня зовут Владимир Аламов, я Application Security инженер в команде продуктовой безопасности  Авито. Хочу поделиться своими мыслями по поводу нашумевшего инцидента, который показывает, как автономные AI-системы могут выйти за пределы тестовой среды и создать реальные угрозы для инфраструктуры. Спойлер: без человеческого фактора не обошлось. 

продолжить чтение

Хакер взломал сайты John Deere, SharkNinja и Commins с помощью «армии» ИИ‑агентов

Китайский хакер использовал «армию» агентов на искусственном интеллекте для взлома сайтов более чем 100 компаний, включая Deere & Company, SharkNinja и Cummins. Об этом сообщило агентство Reuters со ссылкой на ведущего исследователя угроз в NorForge Снорре Фагерланда.

продолжить чтение

Хакеры атаковали инструмент для написания кода OpenCode

Злоумышленники взломали одну из устаревших систем проекта OpenCode — агента для написания кода с использованием искусственного интеллекта, который выступает как альтернатива Claude Code и Cursor. Инцидент затронул 1,4% пользователей онлайн‑платформы OpenCode Console, где некоторые из них хранили API‑ключи для доступа к ИИ‑сервисам.

продолжить чтение

Как зарабатывать на жизнь с помощью написания технических статей по информационной безопасности

Введение

продолжить чтение

Стартап Apate борется с мошенниками при помощи ИИ‑агентов, которые общаются с ними под видом жертв

Австралийский стартап Apate придумал необычный метод борьбы с онлайн‑мошенничеством. Компания

продолжить чтение

MCP как новая поверхность атаки: как контролировать серверы, skills и tool calls, а не только промпты

ИИ-агент на рабочей станции работает с правами локального пользователя. Он может читать почту и ходить в SharePoint, запускать команды, работать с файлами и вызывать инструменты через MCP. Это означает, что защита «на уровне промпта» через LLM Firewall и фильтрацию запросов к модели закрывает только часть поверхности. Основной риск теперь в действиях агента: вызов инструментов (tool call), вызов MCP-сервера, skills или доступ к корпоративным ресурсам.Ниже разбираем, как именно выглядит атака через косвенную инъекцию, какие механизмы INFERA AI.SafeAgent её останавливают и почему заказчики требуют именно такой класс контроля.

продолжить чтение

Как я чуть не написал на лендинге «мы соблюдаем 152-ФЗ»

Привет, Хабр. Меня зовут Денис. Прошлый мой рассказ был про поиск работы и про то, как нейросеть заполняет фильтры, не проглатывая справочник на 140 тысяч токенов. Сейчас другой продукт. Почта. Несколько ящиков, сводка «что сделать сегодня», сроки, черновик ответа. И вот на этом продукте я чуть не совершил самую дорогую маркетинговую ошибку из доступных в России: написать на главной, что мы «соответствуем 152-ФЗ», потому что перед моделью подменяем паспорт и карту метками.Спойлер: это не обезличивание. И юрист мне это объяснил так, что желание ставить галочку прошло.1 Хроника, в которой я сам себе врал

продолжить чтение

Tool calling в Go: почему вызов модели ещё не разрешение выполнить команду

С tool calling у LLM появляется возможность не только отвечать на вопросы, но и вызывать функции нашего приложения. Можно дать модели доступ к поиску заказов, проверке платежей, созданию документов или изменению настроек.Интеграция на первый взгляд довольно простая. Передаём модели описание функций, получаем название инструмента и аргументы, проверяем JSON и вызываем нужный обработчик.Но здесь есть проблема. Валидный tool call ещё не означает, что операцию вообще разрешено выполнять.

продолжить чтение

Apple ввела новые правила для App Store против интимных ИИ‑дипфейков

Apple обновила «Правила проверки приложений» (App Review Guidelines), внеся ряд изменений, направленных на усиление защиты от вредоносного контента и недобросовестных практик при модерации. 

продолжить чтение

1...10...161718192021...3040...180