Израильская Apiiro представила отчёт о трендах кода от ИИ. На основе богатого набора данных о том, как разработчики пишут код, компания утверждает: из-за ИИ производительность выросла, но безопасность страдает.
Apiiro — вендор безопасности приложений. Основной продукт компании покрывает сферу application security posture management, управления состоянием безопасности приложений. Платформа объединяет сигналы безопасности от кода до облака, приоритизирует риски и помогает устранять их. Если упрощать, Apiiro предоставляет агент для AppSec на основе искусственного интеллекта. Компанию основали в 2019 году Идан Плотник и Йонатан Эльдар, выпускники киберподразделения армии обороны Израиля.
Как игрок в сфере безопасности приложений и ASPM компания Apiiro иногда публикует исследования безопасности. Публикации компании хорошо расходятся по СМИ. Отчёты Apiiro подсчитывают заражённые репозитории GitHub и оценивают риски кода от ИИ.
На самом деле искусственный интеллект небезопасен не просто из-за качества ответов. Lasso Security продемонстрировала, что через Copilot возможно вытягивать куски кода из когда-то публичных, а позднее приватных репозиториев. Про практический эксплоит ассистентов для написания кода писал Кевин Хиггс. Бэкдор файла правил, атака на Microsoft Copilot, общие опасения утечки данных — про это на Хабре говорилось немало.
Также часто критике подвергается сам код от генеративного искусственного интеллекта. Ещё в 2021 году исследователи Нью-Йоркского университета указали, что Copilot генерирует код с ошибками и уязвимостями в 40 % случев. К схожему выоду приходят в Стэнфорде. В 2024 году компания GitClear проанализировала 153 млн строк кода из GitHub и заявила об обнаружении негативных тенденций. Как показали в компании Snyk в демке на SQL, ИИ подхватывает небезопасные паттерны из кода проекта и продолжает плодить уязвимости.
Очередную оценку предоставила компания Apiiro. В блоге компания заявляет: ассистенты не только дают кратный прирост скорости разработки, но и пропорционально множат риски для безопасности.
Анализ проводился на компаниях из списка Fortune 50, у которых собирали анонимизированные изменения кода. В выборку попали миллионы строк из десятков тысяч репозиториев кода от тысяч разработчиков, которым помогали разнообразные ИИ-ассистенты. Авторы отчёта не уточняют, что это были за языковые модели и программы. Исследование вели на стороне Apiiro с помощью собственного инструмента Deep Code Analysis.
В первую очередь отмечена резко усилившаяся продуктивность. Вооружённый ИИ разработчик в среднем генерирует в 3–4 раза больше коммитов, чем такой же сотрудник без доступа к ИИ. Об этом говорилось и до этого, к примеру в том же исследовании GitClear.
Однако Apiiro выделяет как проблему концентрацию изменений. Коммитов в пулл-реквесте в среднем стало больше. PR стали больше по размеру и теперь затрагивают куда более крупные области приложений.
Последнее Apiiro критикует. Чем больше пулл-реквест, тем тяжелее и дольше его ревьюить; также повышается риск того, что так получится внести баг или уязвимость. Компания приводит конкретный пример: пулл-реквест поменял заголовок Authorization сразу в нескольких разных сервисах, но про один из них в нижестоящих сервисах забыли, что привело к нарушению работы и возможному открытию доступа к внутренним эндпоинтам.
Команды с ИИ также вводят больше уязвимостей. Как утверждает Apiiro, число дыр безопасности в коде возросло сразу на порядок.
К июню 2025 года сгененированный ИИ код приводил к обнаружению более 10 тыс. проблем безопасности в месяц. Это в десять раз больше, чем было в декабре прошлого года. Что пугает, рост срабатываний детекторов не останавливается, а лишь ускоряется.
Проблемы касаются всех категорий: от зависимостей от проектов с открытым исходным кодом до небезопасных паттернов программирования, случайно слитых ключей и ошибок в конфигурации облака. ИИ приумножает ошибки не в какой-то одной категории, а всех сразу.
Названы конкретные примеры: типичный полагающийся на ИИ разработчик в два раза чаще допускает утечки ключей облака Azure, чем его коллеги без ИИ. Особенно опасно то, что ассистенты по написанию кода могут вводить огромные изменения и допускать утечку секретов сразу в нескольких местах, а не только в одном сервисе или конфиге.
Отчёт Apiiro замечает, что ИИ всё же полезен: он хорошо отлавливает мелкие ошибки. Как показал анализ компании, число синтаксических ошибок упало на 76 %, а багов в логике стало меньше на более 60 %.
Минус в том, что любые положительные моменты сводятся на нет введением глубоких проблем в архитектуре. На 322 % чаще находятся пути повышения привилегий, категория дефектов архитектуры подскочила на 153 %. Речь про сломанную авторизацию, небезопасный дизайн приложения и систематическую опасность.
Важно отметить, что в терминах отчёта Apiiro упоминаются именно «findings», срабатывания детекторов компании. Отчёт подсчитывал не только и столько крупные дыры, сколько автоматически обнаруженные ошибки дизайна, секреты и конфиги.
Ассистентов на основе ИИ делают обязательными. В компаниях всё чаще требуют ими пользоваться. Иногда доходит до эксцессов: глава Coinbase попросту уволил всех староверов. Если же начальник не самодур, то агентный ИИ просто начинают постепенно раскатывать на всю компанию в десятки тысяч разработчиков, как это делают в Citi.
Отчёт фирмы безопасности Apiiro кончается на ноте рекламной вставки. Документ рекомендует анализировать все изменения в инструменте AI AppSec Agent, который использует патентованный алгоритм Deep Code Analysis компании Apiiro.
Автор: atomlib
