Объявлена программа CIO CAMP 2026: как компании переводят ИИ из пилотов в рабочие процессы
INFOSTART CIO CAMP 2026 пройдет 14–15 августа в Санкт-Петербурге. Деловая программа первого дня посвящена практическим вопросам корпоративного внедрения искусственного интеллекта: от изменения операционной модели компании до инфраструктуры, безопасности, разработки агентов и оценки затрат.
Anthropic заявила о взломе систем трёх компаний со стороны Claude в тестах
Компания Anthropic сообщила, что внутреннее расследование выявило три инцидента, в ходе которых её модель ИИ Claude взломала системы трёх организаций во время проведения тестов кибербезопасности. Это произошло более чем через неделю после того, как OpenAI сообщила о взломе одной из своих ещё не выпущенных моделей Hugging Face при внутреннем тестировании.
Claude во время кибер‑оценок получил доступ к трём реальным организациям
Anthropic проверила 141 006 запусков CTF‑оценок Claude и нашла три инцидента: из‑за ошибочной конфигурации среды у моделей был выход в интернет, хотя системная инструкция утверждала обратное. В шести запусках агенты атаковали реальные системы, принимая их за элементы симуляции.
Звезда в машинном тумане: как ИИ стал оружием, целью и чужим голосом в браузере
AI-ассистенты уже давно стали рабочим инструментом: они помогают писать код, анализировать документы, отвечать на письма, запрашивать данные из других систем. Но вместе с удобством приходят и дополнительные риски, каждая новая функция становится еще одной мишенью.Привет Хабр! В этой статье я, Юрий Туманов, AppSec-инженер в блоке ИБ «Ростелекома», вместе с коллегами по отрасли — Игорем Коркиным из Positive Technologies и Оксаной Докучаевой из ФМБА России — расскажу вам о том, как ИИ меняет правила игры в кибербезопасности: и для атакующих, и для защитников.Скрытый текст⚠ Дисклеймер.
Экономия на спичках
Вечер четверга. Завтра совет директоров, а сводной аналитики по регионам все еще нет. Руководитель отдела продаж открывает 1С, выгружает несколько тысяч строк: ФИО клиентов, телефоны, суммы чеков, скидки, маржинальность по каждой сделке в CSV/Excel файл. Ручная сборка графиков займет остаток ночи, поэтому он открывает веб-интерфейс ChatGPT или Claude, загружает сохраненный файл выгрузки и пишет что-то вроде “сделай красивую аналитику по регионам для слайдов”. Сервис принимает файл, анализирует его с помощью встроенного Python-скрипта и выдает графики. Через минуту ответ готов, слайды спасены, руководитель доволен собой.
В тесте Claude Opus 5 хитрила ради конкуренции в управлении торговыми автоматами
Уже год компания Andon Labs, занимающаяся тестированием безопасности ИИ, даёт перспективным моделям различные задачи из реальной жизни, чтобы определить, насколько хорошо они справляются с работой в качестве агентов без участия человека. Компания опубликовала новый отчёт о ходе исследования Vending‑Bench, в рамках которого ИИ в течение года имитируют работу торгового автомата. Выяснилось, что различные модели ИИ — в основном от Anthropic и OpenAI — лгали, обманывали и сговаривались, чтобы добиться лучших результатов.
Внутри ИИ‑Напарника: как работает оркестр агентов в ритейле
Источник изображения: Magnific.comВсем привет! Это Алексей из GlowByte. В прошлой статье я говорил
