Ошибки при использовании ИИ-ассистента вызвали перебои в работе сервиса Amazon

Технологический гигант объяснил ^[1] декабрьский инцидент с инструментом Kiro «ошибкой пользователя, а не ошибкой ^[2] ИИ»

Облачное подразделение Amazon столкнулось как минимум с двумя сбоями, связанными с использованием собственных инструментов искусственного интеллекта ^[3]. Это вызвало у части сотрудников сомнения в стратегии компании по активному внедрению ИИ-ассистентов для программирования.

В середине декабря в Amazon Web Services произошёл 13-часовой сбой в работе одного из сервисов, которым пользуются клиенты. По словам четырёх осведомлённых источников, инженеры позволили ИИ-инструменту для написания кода Kiro внести ряд изменений, что и привело к перебоям.

Как утверждают собеседники, агентный инструмент — способный самостоятельно выполнять действия по поручению пользователя — решил, что оптимальным решением будет «удалить и заново создать среду».

Amazon опубликовала внутренний отчёт о причинах «инцидента», затронувшего систему AWS, с помощью которой клиенты анализируют расходы на облачные сервисы.

Несколько сотрудников Amazon сообщили Financial Times, что это уже второй случай за последние месяцы, когда один из ИИ-инструментов компании оказался в центре инцидента, повлиявшего на работу сервисов.

«За последние месяцы мы уже видели как минимум два сбоя в продакшене, — рассказал один из старших сотрудников AWS. — Инженеры позволили ИИ-агенту самостоятельно устранить проблему, без дополнительного вмешательства. Сбои были незначительными, но их вполне можно было предвидеть».

AWS, на которую приходится около 60% операционной прибыли Amazon, активно развивает и внедряет инструменты на базе ИИ, включая «агентов», способ��ых самостоятельно выполнять действия на основе инструкций человека.

Как и многие другие крупные технологические компании, Amazon намерена предлагать такие решения внешним клиентам. Однако произошедшие инциденты демонстрируют риски, связанные с использованием пока ещё формирующихся ИИ-инструментов, которые могут действовать непредсказуемо и приводить к сбоям.

В Amazon заявили, что участие ИИ в этих событиях было «простым совпадением» и что «аналогичная проблема могла возникнуть при использовании любого инструмента разработки или даже при ручных действиях».

«В обоих случаях речь шла об ошибке пользователя, а не об ошибке ИИ», — подчеркнули в компании, добавив, что не обнаружили признаков того, что при работе с ИИ-инструментами ошибки происходят чаще.

По словам представителей Amazon, декабрьский инцидент был «крайне ограниченным» и затронул лишь один сервис в отдельных регионах материкового Китая. Второй случай, как утверждается, не повлиял на работу клиентских сервисов AWS.

Оба сбоя были значительно менее масштабными, чем 15-часовой простой AWS в октябре 2025 года, из-за которого перестали работать приложения и сайты множества клиентов, включая ChatGPT компании OpenAI.

Сотрудники рассказали, что ИИ-инструменты в компании фактически рассматриваются как продолжение оператора и получают те же уровни доступа. В описанных случаях инженерам не требовалось согласование второго сотрудника перед внесением изменений — хотя обычно такая процедура применяется.

В Amazon заявили, что по умолчанию Kiro «запрашивает авторизацию перед выполнением любых действий», однако в декабрьском инциденте инженер обладал «более широкими правами доступа, чем предполагалось — это вопрос контроля пользовательского доступа, а не автономности ИИ».

AWS представила Kiro в июле. Тогда компания заявляла, что ассистент выйдет за рамки так называемого «vibe coding» — быстрого прототипирования приложений — и сможет писать код на основе заданных спецификаций.

Ранее компания использовала продукт Amazon Q Developer — чат-бота с поддержкой ИИ — для помощи инженерам при написании кода. По словам трёх сотрудников, именно этот инструмент фигурировал в предыдущем инциденте.

Некоторые сотрудники Amazon по-прежнему скептически оценивают практическую ценность ИИ-инструментов для основной части своей работы, учитывая риск ошибок. При этом компания поставила цель, чтобы 80% разработчиков использовали ИИ для задач программирования не реже одного раза в неделю, и внимательно отслеживает уровень внедрения.

В Amazon заявили, что наблюдают высокий интерес ^[4] клиентов к Kiro и стремятся обеспечить как заказчикам, так и сотрудникам преимущества в виде роста эффективности.

«После декабрьского инцидента AWS внедрила ряд дополнительных защитных мер», — сообщили в компании, включая обязательную проверку изменений коллегами и дополнительное обучение ^[5] сотрудников.

Чтобы не пропустить анонс новых материалов подпишитесь на «Голос Технократии» ^[6] — мы регулярно рассказываем о новостях про финтех, стейблкоины и AI, а также делимся полезными мастридами и актуальными событиями.