Как сделать ИИ-агентов безопасными? Разбор архитектуры безопасности агентского ИИ от OpenAI
Когда агент может сам читать репозитории, выполнять shell-команды и взаимодействовать с инструментами разработки, возникает закономерный вопрос: как обеспечить информ.безопасность? OpenAI опубликовали подробности о том, как они сами у себя внутри работают с агентами. Разберём по частям.Что такое Codex, для тех, кто еще не успел попробоватьCodex - это ИИ-агент: он автономно обходит репозитории, запускает команды, дёргает внешние API и инструменты разработчика. Агенты могут работать параллельно, в изолированных копиях кода, а пользователь переключается между задачами, смотрит изменения и забирает результат.
Wired: тысячи приложений, созданных с помощью вайбкодинга, раскрывают корпоративные и личные данные
Специалисты по кибербезопасности предупредили
Security Week 2620: эффект от ИИ для поиска уязвимостей в Firefox
На прошлой неделе разработчики браузера Mozilla Firefox опубликовали детальный отчет об использовании искусственного интеллекта для поиска уязвимостей (оригинальный пост, новость на Хабре). Публикации предшествовал краткий анонс
OpenAI может дать Евросоюзу доступ к новой «хакерской» ИИ-модели GPT-5.5 Cyber
OpenAI ведёт переговоры с Европейской комиссией о доступе к своей новой модели для задач кибербезопасности. Речь идёт о GPT-5.5 Cyber, которую компания позиционирует как инструмент для defensive security: поиска уязвимостей, анализа кода и усиления защиты инфраструктуры. Сам GPT-5.5 OpenAI представила в апреле как модель для сложной профессиональной работы, включая кодинг, исследовательские задачи и анализ данных. Историю первым подробно описал Politico. Затем Reuters сообщил
Google: хакеры впервые использовали ИИ для создания уязвимости нулевого дня
Google объявила о том, что киберпреступники впервые использовали уязвимость нулевого дня, предположительно, разработанную искусственным интеллектом.
Microsoft позволит администраторам читать запросы и ответы ИИ для сотрудников
Microsoft внедрила несколько обновлений в Purview — инструмент обеспечения безопасности и управления данными, используемый в корпоративных средах. Компания представила также функцию для команд безопасности.
