- BrainTools - https://www.braintools.ru -

Есть одна странная особенность программирования с ИИ, которую я давно пытаюсь сформулировать. И кажется, дело вот в чём: теперь вы, по сути, можете просто решать, сколько ошибок будет в вашей программе.
Впервые мы обнаружили это в области безопасности, потому что уязвимости — это, конечно, те ошибки [1], с которыми мириться никак нельзя. Но я думаю, что, когда вулнапокалипсис [2] закончится, мы начнём обращать внимание [3] и на другие виды ошибок: нарушения корректности работы, проблемы производительности, доступности, надёжности и так далее.
Некоторые из нас уже этим занимаются. Например, в последнее время я провожу немало времени за ревью кода, используя такие инструменты, как мой собственный triple‑agent code review skill [4] и explain‑diff skill [5] Джеффри Литта.
По моему опыту [6], в сложной системе можно найти практически столько ошибок, сколько вы попросите агентов отыскать. Если вам надоест разбираться с ошибками в самом пул‑реквесте, не волнуйтесь: агент найдёт ещё множество старых ошибок, существовавших до него, так что вам будет чем заняться. Вопрос лишь в том, когда вы захотите остановиться и сказать: «Готово».
Конечно, исправление ошибок по‑прежнему оказывается вовсе не бесплатно. Приходится учитывать множество компромиссов: сколько строк кода потребует исправление и насколько вероятно, что ошибка вообще когда‑нибудь проявится; каков риск внести новые ошибки при реализации сложного решения; насколько труднее станет понимать код тем, кто будет проверять его в будущем, будь то люди или агенты, и так далее. Но вот поиск ошибок стал практически бесплатным, причём ИИ‑агенты способны находить очень тонкие и запутанные дефекты, которые иначе могли бы годами оставаться незамеченными. И вот что нам теперь с этим делать — действительно интересный вопрос.
Как уже многие отмечали, с появлением программирования с помощью ИИ программы в целом, похоже, не стали более качественными и отлаженными. Скорее наоборот: вокруг просто прибавилось всякого мусора и наспех сделанных приложений сомнительного качества. Думаю, это показывает, что, хотя наши возможности по обнаружению ошибок выросли невероятно сильно, готовность мириться с ними в целом осталась прежней. По‑прежнему есть немало сил, которые тянут нас в противоположную сторону:
Парадокс предотвращённой проблемы [7]: если произошёл инцидент, а вы примчались и всё исправили, вы герой. Если же вы заранее предотвратили проблему, никто даже не узнает, что вы что‑то сделали.
С этим связано и другое обстоятельство: во многих компаниях разработчиков постоянно подталкивают к выпуску новых, заметных результатов, а не к доводке того, что уже «работает». С программированием при помощи ИИ это давление только усиливается: руководство часто полагает, что десятикратный рост производительности должен означать в десять раз больше новых функций и приложений.
Лень — одна из классических добродетелей программиста [8], которая на этот раз работает против нас. Я замечаю, что после разбора очередного, уже неизвестно какого по счёту отчёта об ошибках, подготовленного ИИ, чувствую себя умственно истощённым. Ведь каждый такой отчёт требует внимательно разобраться в сложных аспектах работы системы и взвесить все доводы за и против исправления. Подозреваю, что многие мои коллеги уже просто перестали обращать внимание на результаты ИИ‑ревью или сосредоточились исключительно на самых критичных находках.
Впрочем, есть несколько способов подойти к этой проблеме, не обрекая себя на бесконечную работу. Один из них — запустить агента по циклу, например: «Проведи ревью кода, исправь все ошибки критического, высокого и среднего уровня серьёзности, затем повтори». По моему опыту, это может работать, но у такого подхода есть склонность порождать множество эпициклов [9].
Если вы не знакомы с этим понятием: в докоперниковской [1] модели Солнечной системы древние астрономы «исправляли» неточности в расчётах движения планет, просто добавляя к их орбитам всё новые окружности. Это повышало точность предсказаний, но ценой усложнения всей модели. Очевидно, что достаточно сказать «Земля вращается вокруг Солнца», чтобы значительно упростить всю картину. Но сначала нужно догадаться до самой идеи, которая делает такое упрощение возможным.
Я обнаружил, что ИИ‑агенты довольно плохо справляются с подобными радикальными упрощениями (иными словами, «LLM не умеют прыгать» [10]). Они с готовностью будут добавлять по одному эпициклу на каждую ошибку, пока код не превратится в сплошные спагетти. Поэтому важной частью ревью кода с помощью ИИ по‑прежнему остаются вопросы вроде: «Как можно сделать это проще?» и «Нет ли в самой основе кодовой базы какого‑то фундаментального недостатка, который стоит исправить, прежде чем браться за весь этот класс ошибок?»
Другой хорошо работающий приём — иметь хорошие тесты. (Легче сказать, чем сделать!) Например, когда я экспериментировал с вайб‑кодингом реализации браузерного API IndexedDB [11], мне довольно быстро стало ясно, что агент может просто методично проходить тест за тестом. И если результат приблизится к 100%, у меня будут вполне разумные основания считать, что реализация не содержит ошибок. Но это работает лишь потому, что Web Platform Tests [12] — феноменально качественный набор тестов, который годами совершенствовали независимые разработчики браузеров, обнаруживая необычные ошибки и добавляя проверки для всевозможных маловероятных сценариев, какие только можно вообразить. Большинство компаний с их собственными кодовыми базами могут только мечтать о таком наборе тестов.
Впрочем, я вполне могу представить, что, если вы создаёте систему с нуля, особенно когда ваша цель — воспроизвести результаты работы уже существующей системы, можно добиться очень многого, просто сосредоточив все усилия на тестах, а затем предоставив агенту полную свободу действий во всём остальном. Судя по всему, PGRust уже добивается определённых успехов с таким подходом [13].
Третий приём — просто упростить архитектуру системы так, чтобы целые классы ошибок стали невозможны. Например, я давно выступаю за многостраничные приложения (MPA) вместо одностраничных (SPA) [14], просто потому, что в MPA целые категории ошибок не существуют: поломка кнопки «Назад», потеря положения прокрутки, утечки памяти [15] на стороне клиента, проблемы с доступностью при переходах между страницами и так далее.
Конечно, более простая система уступает сложной по своим возможностям, и, возможно, вполне разумное решение — сознательно выбрать более сложную систему, а затем просто исправить в ней все ошибки. Но мне кажется, что это всё равно будет вести к нагромождению эпициклов, а я бы гораздо охотнее читал (или отлаживал!) код, построенный на простых принципах, чем на сложных, даже если в обоих случаях ситуация с ошибками окажется примерно одинаковой.
Уже стало банальностью говорить, что мы живём в беспрецедентное время и что все пытаются понять, как вообще должна выглядеть разработка программного обеспечения, когда роботы способны выполнять значительную часть того, что раньше составляло «нашу работу». И всё же об этом по‑прежнему стоит говорить. Всё, что я написал в этой статье, может устареть буквально за несколько месяцев, а следующие пять статей об ИИ, которые вы прочитаете на Hacker News, скорее всего, предложат пять разных мнений. Вокруг настоящая какофония, и я далеко не уверен, что сумел разобраться во всём и найти правильные ответы.
Поэтому пока я предпочитаю сосредоточиться на ближайшей перспективе: что агенты хорошо умеют делать сегодня и в чём люди всё ещё могут приносить пользу. Некоторые исходят из предположения, что однажды все проблемы качества, сложности и сопровождаемости кода просто исчезнут благодаря агентам, которые смогут без труда управляться с любой причудливой, барочно сложной унаследованной системой, какая бы им ни досталась. Возможно, так и будет, но я не собираюсь на это рассчитывать, поскольку пока ничего подобного не видел. Сейчас меня по‑прежнему волнуют такие вещи, как принципы DRY [16] и KISS [17], необходимость держать в голове рабочее представление о том, как устроен код (в духе Петера Наура [18]), и попытки направлять агента к более качественным решениям.
И всё же мне кажется интересным, что теперь у нас гораздо больше возможностей справляться со всё более тонкими ошибками, чем когда‑либо прежде. Возможно, это приведёт к настоящему ренессансу надёжности программного обеспечения, а возможно, общий уровень ошибок останется прежним — просто приложений станет больше, как и функций в каждом из них. Лично мне хотелось бы видеть более высокую культуру разработки программ, но нам ещё предстоит узнать, как индустрия в целом справится с этим вызовом.
[1] Строго говоря, в системе Коперника эпициклы всё ещё присутствовали [19], и только Кеплеру удалось от них избавиться. Думаю, в каком‑то смысле это делает аналогию ещё точнее: в программировании новая архитектура тоже не всегда выглядит очевидным улучшением с самого начала и иногда проявляет свои преимущества лишь со временем.
Автор: achekalin
Источник [20]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/38823
URLs in this post:
[1] ошибки: http://www.braintools.ru/article/4192
[2] вулнапокалипсис: https://en.wiktionary.org/wiki/vulnpocalypse
[3] внимание: http://www.braintools.ru/article/7595
[4] triple‑agent code review skill: https://gist.github.com/nolanlawson/4150b0ca9640654c256b324fac0d5253
[5] explain‑diff skill: https://www.geoffreylitt.com/2026/07/02/understanding-is-the-new-bottleneck
[6] опыту: http://www.braintools.ru/article/6952
[7] Парадокс предотвращённой проблемы: https://medium.com/@shreyashere/why-our-leaders-fail-us-and-then-save-us-the-preventable-problem-paradox-872614ec3293
[8] классических добродетелей программиста: https://threevirtues.dev/
[9] эпициклов: https://en.wikipedia.org/wiki/Deferent_and_epicycle
[10] «LLM не умеют прыгать»: https://openreview.net/forum?id=klU4737opt
[11] вайб‑кодингом реализации браузерного API IndexedDB: https://nolanlawson.com/2026/01/31/building-a-browser-api-in-one-shot/
[12] Web Platform Tests: https://github.com/web-platform-tests/wpt
[13] PGRust уже добивается определённых успехов с таким подходом: https://malisper.me/postgres-in-rust-regression-suite/
[14] за многостраничные приложения (MPA) вместо одностраничных (SPA): https://nolanlawson.com/2022/05/21/the-balance-has-shifted-away-from-spas/
[15] памяти: http://www.braintools.ru/article/4140
[16] DRY: https://en.wikipedia.org/wiki/Don
[17] KISS: https://en.wikipedia.org/wiki/KISS_principle
[18] Петера Наура: https://pages.cs.wisc.edu/~remzi/Naur.pdf
[19] эпициклы всё ещё присутствовали: https://en.wikipedia.org/wiki/Deferent_and_epicycle#As_an_example_of_bad_science
[20] Источник: https://habr.com/ru/articles/1109840/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1109840
Нажмите здесь для печати.