безопасность. - страница 6

Добраться до центра

В прошлой жизни я опубликовал «Вариационные подходы к проблеме безопасности».Суть идеи. Допустим, что вы злоумышленник, который хочет пробраться в Центр, но рискует быть обнаруженным охранниками, видеокамерами, локаторами. радарами и даже случайными прохожими. И вам на помощь приходит теория геометрической оптики. Получается удивительная аналогия с распространением света в оптически неоднородной среде:свет ищет путь минимального времени;нарушитель ищет путь минимального риска.Математика оказывается одной и той же.От вероятности обнаружения к геометрической оптике

продолжить чтение

Запускаю серию «Управление уязвимостями для самых маленьких»: зачем она и для кого

Стартует серия статей про управление уязвимостями с нуля: для тех, кто только въезжает в тему, и для админов, которых внезапно попросили «позакрывать там уязвимости». Рассказываю, что внутри, почему это вторая редакция и при чём тут «Сети для самых маленьких».📚 Это вступление к серии «Управление уязвимостями для самых маленьких», практическому руководству по VM с нуля. Дальше будут 21 глава и заключение, по одной в неделю. Оглавление и все части серии тут.

продолжить чтение

Instagram** начала оповещать пользователей, ставших жертвами хакерских атак с использованием чат-ботов на основе ИИ

К концу прошлого месяца в агенте на искусственном интеллекте Meta* AI Support Assistant обнаружили критическую уязвимость, которая позволяла захватывать аккаунты Instagram**. Теперь представитель Meta Энди Стоун сообщил, что «возникшая проблема уже устранена».

продолжить чтение

Как и почему умирает ИИ-внедрение: пять bottlenecks

Привет, Хабр. Меня зовут Виктор Овчинников, я руковожу разработкой интеграционной платформы Digital Q.Integration в компании Диасофт. Больше двадцати лет моя команда занимается обменом данными между корпоративными системами, и про то, как именно этот слой убивает ИИ-проекты, я уже подробно разбирал в предыдущей статье на Хабре. 

продолжить чтение

Мультимодальные модели оказались уязвимы к jailbreak-атакам через видео

Исследователи Dong Wang, Xiangyu He, Xinqi Lyu и Bin Xiao из Гонконгского политехнического университета показали, что современные мультимодальные системы могут быть уязвимы к атакам через видеоряд. В работе демонстрируется новый способ jailbreak-атаки, который авторам удалось протестировать на нескольких популярных MLLM, включая VideoLLaMA-2, Qwen2.5-VL, GPT-4.1 и Gemini-2.5. Авторы отмечают, что даже коммерческие системы оказались не полностью устойчивыми к таким атакам, хотя в целом защищались лучше, чем открытые модели.

продолжить чтение

Cilium и защита CI-CD: как опенсорс-проект уровня ядра Kubernetes защищает свою цепочку поставок

продолжить чтение

В России запустили бесплатный сервис для проверки дипфейков

Компания «Архитех ИИ» представила KodikScan

продолжить чтение

Статический анализ, заряженный ИИ: как LLM ищут уязвимости в коде и где их границы

На связи Денис Макрушин из команды SourceCraft. Индустрия AppSec десятилетиями жила в жёстком конфликте между полнотой и точностью поиска угроз. Классические SAST‑инструменты генерируют шум, на ручной разбор которого уходит больше времени, чем на реальную работу с угрозами. Релиз Claude Code Security от Anthropic заметно встряхнул индустрию кибербезопасности: капитализация традиционных вендоров просела, а генеральный директор крупного игрока Snyk заявил, что будущее компании теперь должен определять ИИ‑центричный лидер.

продолжить чтение

ИИ-агенты в проде: как измерить безопасность и снизить риски внедрения

ИИ-агенты перестали быть экспериментальными проектами. Они читают корпоративную почту, обновляют задачи в трекерах, формируют черновики документов и отправляют сообщения от имени сотрудников. Всё это — в проде, с реальными данными и реальными последствиями. И именно здесь начинается разговор, к которому многие команды оказываются не готовы: когда CTO или директор по безопасности задаёт вопрос «насколько это безопасно?», у разработчика должен быть конкретный ответ — не «мы используем надёжную модель», а «вот что мы проверили, вот что нашли, вот как это исправили».

продолжить чтение

Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать

В этой статье рассмотрим 7 распространенных ошибок, которые разработчики допускают при создании MCP‑серверов на FastMCP: от отсутствующих аннотаций инструментов и слабой обработки ошибок до ответов, расходующих слишком много токенов, и пробелов в безопасности. Поговорим о конкретных способах исправления каждой ошибки.

продолжить чтение

1...456789...19