В России запустили бесплатный сервис для проверки дипфейков
Компания «Архитех ИИ» представила KodikScan
Статический анализ, заряженный ИИ: как LLM ищут уязвимости в коде и где их границы
На связи Денис Макрушин из команды SourceCraft. Индустрия AppSec десятилетиями жила в жёстком конфликте между полнотой и точностью поиска угроз. Классические SAST‑инструменты генерируют шум, на ручной разбор которого уходит больше времени, чем на реальную работу с угрозами. Релиз Claude Code Security от Anthropic заметно встряхнул индустрию кибербезопасности: капитализация традиционных вендоров просела, а генеральный директор крупного игрока Snyk заявил, что будущее компании теперь должен определять ИИ‑центричный лидер.
ИИ-агенты в проде: как измерить безопасность и снизить риски внедрения
ИИ-агенты перестали быть экспериментальными проектами. Они читают корпоративную почту, обновляют задачи в трекерах, формируют черновики документов и отправляют сообщения от имени сотрудников. Всё это — в проде, с реальными данными и реальными последствиями. И именно здесь начинается разговор, к которому многие команды оказываются не готовы: когда CTO или директор по безопасности задаёт вопрос «насколько это безопасно?», у разработчика должен быть конкретный ответ — не «мы используем надёжную модель», а «вот что мы проверили, вот что нашли, вот как это исправили».
Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать
В этой статье рассмотрим 7 распространенных ошибок, которые разработчики допускают при создании MCP‑серверов на FastMCP: от отсутствующих аннотаций инструментов и слабой обработки ошибок до ответов, расходующих слишком много токенов, и пробелов в безопасности. Поговорим о конкретных способах исправления каждой ошибки.
LLM-пентест в 2026: что изменилось за год
Привет, Хабр! Согласно отчёту Trend Micro TrendAI за прошлый год число CVE во всей AI-экосистеме почти удвоилось: с 419 до 756. Цифры стартовые, но мысль простая. Тестировать нейросетевые сервисы как обычные веб-приложения в 2026-м уже недостаточно. И вот почему.В этой статье разберу:что появилось нового в OWASP LLM Top 10 (версия 2025);какие атаки реально работают в проде, а какие так и остались в arXiv;чем тестируют LLM сейчас (open-source стек плюс российские игроки);плюс короткий практический playbook на четыре уровня.OWASP LLM Top 10 2025: что новое
Почему ИИ-друг опасен: что инженеры могут сделать уже сегодня
Платформы вроде Character.AI и Replika позиционируют ИИ компаньонов как друга, который всегда рядом, не осуждает и точно знает, что ответить. Миллионы людей по всему миру заменяют ими реальное общение. Последствия уже не гипотетические.В США после череды громких исков к Character.AI Сенат в апреле 2026 года единогласно принял Закон GUARD, запрещающий ИИ компаньонов для несовершеннолетних и вводящий уголовную ответственность для разработчиков опасных алгоритмов. В Европе Акт об ИИ (EU AI Act)
А сейчас я покажу, откуда на вайбкод готовилось нападение
Часть 1 — С чего всё началось (и немного теории)Введение
Вайбкод и безопасность: как не задеплоить уязвимости вместе с фичами
Часть 1 — С чего всё началось (и немного теории)Введение
oosmetrics.com — когда публикация на строннем сайте может навредить вашему проекту
С момента моей первой публикации о QuickSwitch - моем проекте для улучшения файловых диалогов прошло уже достаточно времени. За это время проект обрел своих пользователей даже без моих постов на Habr, как я планировал прежде. Благодаря его плавному росту о нем узнала некая организация oosmetrics, которая прислала мне занимательное письмо:
Кто сегодня разрабатывает с ИИ?
Два года назад, чтобы написать веб-приложение, нужно было знать язык программирования, фреймворк, базу данных, уметь деплоить и дебажить. Сегодня достаточно уметь сформулировать задачу.ИИ радикально снизил порог входа в разработку. Это не гипотеза – это статистика:63% пользователей, практикующих вайбкодинг, идентифицируют себя как не-разработчики (Second Talent, 2026)Gartner прогнозирует, что к 2026 году «citizen developers» превысят число профессиональных разработчиков 4:1 (VentureBeat/Gartner)
