Как и почему умирает ИИ-внедрение: пять bottlenecks
Привет, Хабр. Меня зовут Виктор Овчинников, я руковожу разработкой интеграционной платформы Digital Q.Integration в компании Диасофт. Больше двадцати лет моя команда занимается обменом данными между корпоративными системами, и про то, как именно этот слой убивает ИИ-проекты, я уже подробно разбирал в предыдущей статье на Хабре.
Мультимодальные модели оказались уязвимы к jailbreak-атакам через видео
Исследователи Dong Wang, Xiangyu He, Xinqi Lyu и Bin Xiao из Гонконгского политехнического университета показали, что современные мультимодальные системы могут быть уязвимы к атакам через видеоряд. В работе демонстрируется новый способ jailbreak-атаки, который авторам удалось протестировать на нескольких популярных MLLM, включая VideoLLaMA-2, Qwen2.5-VL, GPT-4.1 и Gemini-2.5. Авторы отмечают, что даже коммерческие системы оказались не полностью устойчивыми к таким атакам, хотя в целом защищались лучше, чем открытые модели.
В России запустили бесплатный сервис для проверки дипфейков
Компания «Архитех ИИ» представила KodikScan
Статический анализ, заряженный ИИ: как LLM ищут уязвимости в коде и где их границы
На связи Денис Макрушин из команды SourceCraft. Индустрия AppSec десятилетиями жила в жёстком конфликте между полнотой и точностью поиска угроз. Классические SAST‑инструменты генерируют шум, на ручной разбор которого уходит больше времени, чем на реальную работу с угрозами. Релиз Claude Code Security от Anthropic заметно встряхнул индустрию кибербезопасности: капитализация традиционных вендоров просела, а генеральный директор крупного игрока Snyk заявил, что будущее компании теперь должен определять ИИ‑центричный лидер.
ИИ-агенты в проде: как измерить безопасность и снизить риски внедрения
ИИ-агенты перестали быть экспериментальными проектами. Они читают корпоративную почту, обновляют задачи в трекерах, формируют черновики документов и отправляют сообщения от имени сотрудников. Всё это — в проде, с реальными данными и реальными последствиями. И именно здесь начинается разговор, к которому многие команды оказываются не готовы: когда CTO или директор по безопасности задаёт вопрос «насколько это безопасно?», у разработчика должен быть конкретный ответ — не «мы используем надёжную модель», а «вот что мы проверили, вот что нашли, вот как это исправили».
Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать
В этой статье рассмотрим 7 распространенных ошибок, которые разработчики допускают при создании MCP‑серверов на FastMCP: от отсутствующих аннотаций инструментов и слабой обработки ошибок до ответов, расходующих слишком много токенов, и пробелов в безопасности. Поговорим о конкретных способах исправления каждой ошибки.
LLM-пентест в 2026: что изменилось за год
Привет, Хабр! Согласно отчёту Trend Micro TrendAI за прошлый год число CVE во всей AI-экосистеме почти удвоилось: с 419 до 756. Цифры стартовые, но мысль простая. Тестировать нейросетевые сервисы как обычные веб-приложения в 2026-м уже недостаточно. И вот почему.В этой статье разберу:что появилось нового в OWASP LLM Top 10 (версия 2025);какие атаки реально работают в проде, а какие так и остались в arXiv;чем тестируют LLM сейчас (open-source стек плюс российские игроки);плюс короткий практический playbook на четыре уровня.OWASP LLM Top 10 2025: что новое
Почему ИИ-друг опасен: что инженеры могут сделать уже сегодня
Платформы вроде Character.AI и Replika позиционируют ИИ компаньонов как друга, который всегда рядом, не осуждает и точно знает, что ответить. Миллионы людей по всему миру заменяют ими реальное общение. Последствия уже не гипотетические.В США после череды громких исков к Character.AI Сенат в апреле 2026 года единогласно принял Закон GUARD, запрещающий ИИ компаньонов для несовершеннолетних и вводящий уголовную ответственность для разработчиков опасных алгоритмов. В Европе Акт об ИИ (EU AI Act)
