В 4 раза быстрее, в 10 раз больше уязвимостей: Apiiro оценила эффекты помощников для написания кода

Израильская Apiiro представила ^[1] отчёт о трендах кода от ИИ. На основе богатого набора данных о том, как разработчики пишут код, компания утверждает: из-за ИИ производительность выросла, но безопасность страдает.

Apiiro — вендор безопасности приложений. Основной продукт компании покрывает ^[2] сферу application security posture management, управления состоянием безопасности приложений. Платформа объединяет сигналы безопасности от кода до облака, приоритизирует риски и помогает устранять их. Если упрощать, Apiiro предоставляет агент для AppSec на основе искусственного интеллекта ^[3]. Компанию основали ^[4] в 2019 году Идан Плотник и Йонатан Эльдар, выпускники киберподразделения армии обороны Израиля.

Как игрок в сфере безопасности приложений и ASPM компания Apiiro иногда публикует исследования безопасности. Публикации компании хорошо расходятся по СМИ. Отчёты Apiiro подсчитывают заражённые репозитории GitHub ^[5] и оценивают риски кода от ИИ ^[6].

На самом деле искусственный интеллект небезопасен не просто из-за качества ответов. Lasso Security продемонстрировала ^[7], что через Copilot возможно вытягивать куски кода из когда-то публичных, а позднее приватных репозиториев. Про практический эксплоит ассистентов для написания кода писал ^[8] Кевин Хиггс. Бэкдор файла правил ^[9], атака на Microsoft Copilot ^[10], общие опасения утечки данных ^[11] — про это на Хабре говорилось немало.

Также часто критике подвергается сам код от генеративного искусственного интеллекта. Ещё в 2021 году исследователи Нью-Йоркского университета указали ^[12], что Copilot генерирует код с ошибками и уязвимостями в 40 % случев. К схожему выоду приходят ^[13] в Стэнфорде. В 2024 году компания GitClear проанализировала ^[14] 153 млн строк кода из GitHub и заявила об обнаружении негативных тенденций. Как показали ^[15] в компании Snyk в демке на SQL, ИИ подхватывает небезопасные паттерны из кода проекта и продолжает плодить уязвимости.

Очередную оценку предоставила компания Apiiro. В блоге компания заявляет ^[1]: ассистенты не только дают кратный прирост скорости разработки, но и пропорционально множат риски для безопасности.

Анализ проводился на компаниях из списка Fortune 50, у которых собирали анонимизированные изменения кода. В выборку попали миллионы строк из десятков тысяч репозиториев кода от тысяч разработчиков, которым помогали разнообразные ИИ-ассистенты. Авторы отчёта не уточняют, что это были за языковые модели и программы. Исследование вели на стороне Apiiro с помощью собственного инструмента Deep Code Analysis.

В первую очередь отмечена резко усилившаяся продуктивность. Вооружённый ИИ разработчик в среднем генерирует в 3–4 раза больше коммитов, чем такой же сотрудник без доступа к ИИ. Об этом говорилось и до этого, к примеру в том же исследовании ^[14] GitClear.

Однако Apiiro выделяет как проблему концентрацию изменений. Коммитов в пулл-реквесте в среднем стало больше. PR стали больше по размеру и теперь затрагивают куда более крупные области приложений.

Последнее Apiiro критикует. Чем больше пулл-реквест, тем тяжелее и дольше его ревьюить; также повышается риск того, что так получится внести баг или уязвимость. Компания приводит конкретный пример: пулл-реквест поменял заголовок Authorization сразу в нескольких разных сервисах, но про один из них в нижестоящих сервисах забыли, что привело к нарушению работы и возможному открытию доступа к внутренним эндпоинтам.

Команды с ИИ также вводят больше уязвимостей. Как утверждает Apiiro, число дыр безопасности в коде возросло сразу на порядок.

К июню 2025 года сгененированный ИИ код приводил к обнаружению более 10 тыс. проблем безопасности в месяц. Это в десять раз больше, чем было в декабре прошлого года. Что пугает, рост срабатываний детекторов не останавливается, а лишь ускоряется.

Проблемы касаются всех категорий: от зависимостей от проектов с открытым исходным кодом до небезопасных паттернов программирования, случайно слитых ключей и ошибок в конфигурации облака. ИИ приумножает ошибки ^[16] не в какой-то одной категории, а всех сразу.

Названы конкретные примеры: типичный полагающийся на ИИ разработчик в два раза чаще допускает утечки ключей облака Azure, чем его коллеги без ИИ. Особенно опасно то, что ассистенты по написанию кода могут вводить огромные изменения и допускать утечку секретов сразу в нескольких местах, а не только в одном сервисе или конфиге.

Отчёт Apiiro замечает, что ИИ всё же полезен: он хорошо отлавливает мелкие ошибки. Как показал анализ компании, число синтаксических ошибок упало на 76 %, а багов в логике ^[17] стало меньше на более 60 %.

Минус в том, что любые положительные моменты сводятся на нет введением глубоких проблем в архитектуре. На 322 % чаще находятся пути повышения привилегий, категория дефектов архитектуры подскочила на 153 %. Речь про сломанную авторизацию, небезопасный дизайн приложения и систематическую опасность.

Важно отметить, что в терминах отчёта Apiiro упоминаются именно «findings», срабатывания детекторов компании. Отчёт подсчитывал не только и столько крупные дыры, сколько автоматически обнаруженные ошибки дизайна, секреты и конфиги.

Ассистентов на основе ИИ делают обязательными. В компаниях всё чаще требуют ими пользоваться. Иногда доходит до эксцессов: глава Coinbase попросту уволил ^[18] всех староверов. Если же начальник не самодур, то агентный ИИ просто начинают постепенно раскатывать на всю компанию в десятки тысяч разработчиков, как это делают ^[19] в Citi.

Отчёт фирмы безопасности Apiiro кончается на ноте рекламной вставки. Документ рекомендует анализировать все изменения в инструменте AI AppSec Agent, который использует патентованный алгоритм Deep Code Analysis компании Apiiro.