Цифровая амнезия: почему ИИ‑стратегия тотального исключения человека в банках может завести в тупик?

Мое общение в последнее время с российскими банками побудило меня разобраться, как сейчас принимаются решения в отношении обычных вкладчиков. Понятно, что все банки используют систему ИИ в большей или меньшей мере. Алгоритм принятия решений у всех банков индивидуальный. Это обусловлено индивидуальной политикой банка в отношении систем ИИ, построенных в каждом конкретном банке. Эта статья — обзор существующих систем ИИ в банковском секторе с реальными примерами.

1. В чем различие банковских ИИ систем. Международная классификация: HITL, HOTL и HOOTL

1) Human‑in‑the‑Loop (HITL). Человек является прямым участником каждого рабочего цикла системы. ИИ выполняет задачу или предлагает вариант, но финальное решение или одобрение каждого шага остается за человеком ^[1].

Пример:

HSBC, BNP Paribas: Европа находится под жесточайшим давлением Закона ЕС об ИИ (EU AI Act ^[2]). Статья 14 этого закона прямо обязывает финансовые институты разрабатывать высокорисковые ИИ‑системы так, чтобы их могли «эффективно контролировать физические лица».

Кейс: Потребительские кредиты и ипотека.

Как устроено: ИИ считает кредитный балл, используя сотни параметров, но если уровень уверенности модели ниже условных 95%, система обязана перенаправить заявку живому кредитному инспектору. В HSBC создан специальный AI Review Committee ^[3], который лично валидирует логику ^[4] работы алгоритмов в спорных случаях.

Опросы HSBC показывают, что 62% богатых европейских инвесторов требуют, чтобы за финальным решением всегда стоял живой советник, а не алгоритм.

JPMorgan Chase: В США индустрия ограниченна директивой SR 26–2 ^[5] ФРС США. Принимать терминальные правовые решения без подписи комплаенс‑офицера ИИ законодательно запрещено. ИИ в США осуществляет исключительно триаж (сортировку аномалий), но финальное вето всегда остается за человеком. В JPMorgan Chase ИИ выступает как супер‑аналитик («Ask David»), но система имеет жестко зашитые «шлюзы одобрения» (Approval Gates). Команда инвестиционных исследований Private Bank JPMorgan Chase, разработавшая систему «Ask David», прямо заявляет, что «если на карту поставлены миллиарды долларов, они не могут позволить себе неточность, поэтому система ИИ по‑прежнему консультируется с экспертами‑людьми, когда это необходимо». Это честное признание ограниченний ИИ в принятии существенных решений.

2) Human‑on‑the‑loop (HOTL, другое название: Human above the loop, HATL). ИИ работает автономно и принимает решения самостоятельно в рамках заданных правил. Человек не вмешивается в каждый отдельный процесс, но осуществляет контроль системы «сверху». Эксперт задает политики, ограничения, бизнес‑правила и алгоритмы безопасности, а также может экстренно остановить систему при сбое.

Пример:

Борьба с отмыванием денег HSBC + Google Cloud AI ^[6]

Кейс: Мониторинг транзакций (AML).

Как устроено: ИИ‑система от Google Cloud сканирует трансграничные платежи миллионов клиентов в реальном времени, выстраивая связи между офшорами. Алгоритм работает автономно, но комплаенс‑аналитики банка находятся «над контуром» — они получают умные алерты, когда паттерн транзакций резко меняется. ИИ готовит досье, но решение о заморозке счетов международной корпорации подписывает человек.

3) Human‑Out‑of‑the‑Loop (HOOTL). Решение по всем процессам принимает ИИ, человек в это не вмешивается.

Китайские банки: Абсолютный HOOTL в рознице и «Платформенный капитализм» ^[7]

Китай — это полярная противоположность Западу. Здесь ИИ развивается в условиях плотной государственной дата‑инфраструктуры. Крупнейшие финтех‑гиганты и банки Китая построили фабрики ИИ, где человек в массовом сегменте исключен почти на 100%

Ant Group / Alipay / ICBC — Система «3-1-0 ^[8]»

Кейс: Кредитование малого бизнеса и физлиц.

Как устроено: Легендарная китайская концепция «3-1-0»: 3 минуты на подачу заявки с телефона, 1 секунда на принятие решения алгоритмом (без участия человека — полный HOOTL), 0 человеческих прикосновений к процессу. Система анализирует данные транзакций бизнеса через платформы Alibaba/Taobao, социальные рейтинги, геолокацию и налоги. Решение принимает ИИ‑агент. Человек вообще не может вмешаться в одобрение конкретного кредита для лавки фастфуда или мелкого предпринимателя.

SPD Bank / Shanghai Pudong Development Bank(HOTL)

Кейс: Оценка кредитования технологических предприятий средней величины.

Как устроено: При кредитовании средних компаний ИИ оценивает их научно‑технический потенциал, патентную активность и закупки оборудования. Банк сохраняет право вето человека над ИИ‑оценками рисков. Команда аналитиков вмешивается только тогда, когда модель фиксирует аномально высокий уровень дефолтов в конкретном секторе экономики (например, в производстве микрочипов), корректируя макро‑параметры.

Общее по больнице: согласно глобальному исследованию Moody’s Analytics “From reactive to proactive: How AI is transforming risk and compliance” (2025), в котором приняли участие 600 профессионалов, 84% респондентов заявляют о необходимости сохранения человеческого контроля над решениями алгоритмов, признавая полную автономию моделей регуляторной уязвимостью.

2. Теперь о Российских банках

Российский банковский сектор не пошел на поводу у одной стратегии и каждый банк выбрал свою стратегию использования интеллекта ^[9] на шкале от полного конторля человеком до полного исключения человека из контура принятия решения.В то время как Сбербанк пошел по пути тотального HOOTL, его ключевые конкуренты — Альфа‑Банк и Т‑Банк — выбрали принципиально иные стратегии, основанные на усилении человека технологией, а не на его замене. Этот раскол определяет не только текущее качество сервиса, но и долгосрочную устойчивость бизнес‑моделей.

Альфа‑Банк: Аугментация как философия

Альфа‑Банк сделал ставку на аугментацию ^[10] (HITL). Его стратегия заключается в усилении профессиональных навыков сотрудников при помощи ИИ. За любым процессом здесь стоит конкретный сотрудник, несущий ответственность за решение, а ИИ выступает в роли помощника, который готовит черновики и анализирует данные. Такой подход позволяет банку избегать «эффекта черного ящика», характерного для полностью автономных систем, и сохранять человеческий арбитраж в критических ситуациях. По словам представителей банка, ИИ забирает рутину, а целеполагание, контроль и ответственность остаются за человеком.

Это не просто лозунг, а подтвержденная практика. Альфа‑Банк уже перешел от экспериментов с генеративным ИИ к промышленному внедрению, строя AI‑native‑банк, где искусственный интеллект становится единым каркасом для всех сервисов, но не заменяет людей. Примером служит ИИ‑агент для валютного контроля ^[11], который выдает результат за минуту с точностью 80%, и упрощает работу экспертов для решения сложных задач, но не заменяет их. В поддержке банка также используют RAG‑помощника ^[12], который помогает операторам быстрее искать информацию, экономя в среднем 20 секунд на звонке и позволяя сосредоточиться на клиенте. Как подчеркивают в банке, приоритетом является забота о клиенте, а не слепая оптимизация конструкции.

Т‑Банк: ИИ‑сотрудник как «второй пилот»

Т‑Банк пошел по следующему пути — запустил ИИ‑сотрудника Афанасия Иванова ^[13]. Его задача — решать сложные сценарии клиентского обслуживания, которые раньше требовали участия человека, но делает это в двух режимах: автономном (самостоятельно ведет обращение) и в режиме «второго пилота» (передает сложные случаи человеку и дает ему подсказки). Ключевое отличие Афанасия от классических чат‑ботов в том, что он работает в тех же системах, что и сотрудники поддержки, и способен разбираться в контексте конкретного клиента.

Афанасий не заменяет специалистов, а высвобождает до 16% их времени для решения действительно сложных задач. Его задача — масштабировать экспертизу лучших сотрудников: «экспертиза лучших сотрудников перестает быть ограничена временем одного человека и становится доступна каждому клиенту». ИИ‑сотрудник уже задействован в процессах, охватывающих около 30% клиентского обслуживания банка, а показатель удовлетворенности его работой составил 78,7%.

Точка Банк:

Финтех‑платформа для предпринимателей построила иную модель взаимодействия с регуляторными рисками. Вместо карательного автоматического блокирования по 115-ФЗ, Точка Банк создал институт «комплаенс‑ассистентов» ^[14]. Когда алгоритмы мониторинга фиксируют нестандартную операцию, система не рубит транзакцию вслепую. Живой специалист комплаенса выходит в чат к предпринимателю, объясняет логику рисков и помогает скорректировать структуру сделки так, чтобы бизнес не пострадал, а закон был соблюден. Человеческая логика здесь имеет прямой приоритет над машинным триггером.

А что же у Сбербанка?

Масштаб и статус банка требуют пристального анализа.

В 1991 году Сбербанк был единственным банком в стране. У него не было конкурентов, и практически все население было его клиентами. А сейчас 111 миллионов клиентов имеют его карточки. Отлично. Для отчета. Только не отражает реальное положение вещей. Сегодня доля Сбербанка в средствах физических лиц колеблется в диапазоне 43,7 — 45,8 ^[15], на рынке появились банки, которые предлагают принципиально иной уровень сервиса и лояльности.

Почему банк, получивший в наследство монополию и советскую инфраструктуру, стратегически проигрывает рынок вкладов?

Ответ лежит не в плоскости маркетинга или процентных ставок. Он лежит в архитектуре ИИ‑системы, которая сегодня управляет ключевыми процессами.

Сбербанк выстроил свой ИИ по модели HOOTL — человек просто не может вмешатся в решение ИИ алгоритма.

Герман Греф попытался скопировать китайскую модель абсолютного HOOTL, но в условиях российского рынка. Однако в Китае HOOTL работает за счет колоссальной, бесшовной цифровой экосистемы данных всего государства, а в России слепое вытеснение человека привело к «цифровой амнезии» и деградации лояльности.

Типичный диалог в отделении Сбера в связи с заблокированным переводом другому клиенту Сбера. Оба — клиенты Сбера со времен СССР, активно пользовались услугами и никогда никаких требований Сбера не нарушали:

— Почему вы заблокировали мой перевод?

— Ваш перевод заблокировал банк.

— А кто конкретно в банке заблокировал перевод? Кто из руководителей? Может быть к нему можно обратиться, чтобы он сказал причину?

— Ваш перевод заблокировал банк. Руководитель Вам ответит то‑же самое.

Такие случаи уже системны:

1) Попытка снять деньги обернулась полной блокировкой ^[16]

2) Сбербанк заплатил за самоуправство ^[17]

3) Сбербанк начал массово блокировать счета ^[18]

Попробуем сравнить HOOTL китайских финансовых платформ и Сбера.

При общем отказе от человеческого арбитража, Сбербанк и азиатские финтех‑гиганты используют противоположные математические философии ИИ. Автономная система Сбербанка построена на принципах «Статического компромисса» (Регламентный ИИ): при малейшем подозрении модель выбирает минимизацию финансового риска банка, полностью прерывая процесс. В то же время системы Ant Group ^[8] (AlphaRisk ^[19]) и WeBank ^[20], где люди и ИИ сотрудничают для повышения организационной производительности ^[21], оперируют в парадигме «Динамического доверия ^[22]» (Контекстуальный ИИ): вместо бинарного решения «блок/пропуск» модель мгновенно усложняет математическую задачу для клиента, запрашивая добавочный контекст для математического пересчета риска в рамках той же транзакции.

Сравнительный анализ логики HOOTL Сбера и Китайских банков

Как это работает на уровне системы?

Сбербанк: ИИ как цифровой исполнитель инструкций. Система Сбера автономна и действует как идеальный бюрократ. В нее заложены жесткие лимиты, паттерны и правила. Если транзакция выбивается за рамки, у алгоритма Сбера просто нет полномочий передумать самостоятельно внутри этой сессии. Его автономия заканчивается там, где поставлена точка в коде.

Ant Group / WeBank: ИИ как самообучающийся аудитор. Система AlphaRisk обладает автономией другого порядка. Она умеет сама менять условия сделки с клиентом в режиме реального времени. Обнаружив аномалию, ИИ азиатских гигантов не «рубит» транзакцию, а временно замораживает её, выставляет клиенту биометрический «чекпоинт», мгновенно скармливает полученный хэш лица нейросети и отменяет свое подозрение ^[8], если математическая вероятность фрода стремится к нулю.

В Сбере автономный ИИ умеет только говорить «Нет». В Азии автономный ИИ умеет говорить: «Докажи мне обратное прямо сейчас, и я скажу „Да“».

Становится математически ^[24] понятно, почему китайский HOOTL эффективен, а HOOTL Сбера похож на автоматизацию старых регламентов.

3. И эта разница в математике — не техническая деталь.

Она определяет всё: как банк видит клиента, как он строит отношения, как он относится к своим сотрудникам. И, в конечном счёте, — сколько людей захотят хранить в нём деньги. Сбербанк оказался в абсолютном одиночестве в своей стратегии HOOTL. В то время как Альфа‑Банк строит аугментацию, а Т‑Банк внедряет ИИ‑сотрудника как «второго пилота», Сбер упрямо бьется в стену собственной модели, где алгоритм умеет говорить только «нет». Я думаю, что будущее банковского сервиса — за гибридными моделями, где ИИ усиливает человека, а не пытается его стереть.

Нынешняя гонка ИИ‑внедрений в отрыве от реальных потребностей ^[25] клиента всё больше напоминает классический карго‑культ или финансовую пирамиду, где главным стимулом ^[26] становится не прагматичный расчет, а страх ^[27] отстать от соседа. Строя «пятиэтажные дачи» из дорогостоящих нейросетей там, где достаточно было бы навести порядок в базовых регламентах, финансовые институты забывают ^[28], что автономность алгоритма имеет ценность только тогда, когда она решает задачу клиента, а не оптимизирует расходы ради красивого отчета. Прежде чем отдавать управление ИИ, индустрии необходимо вернуть в контур принятия решений самый дефицитный ресурс — собственный естественный интеллект.

Автоматизация неэффективности (Принцип «Мусор на входе — мусор на выходе»). ИИ не исправляет сломанные процессы, он их ускоряет. Если у банка или корпорации изначально была кривая, бюрократизированная логика принятия решений, то внедрение ИИ сделает эту кривизну моментальной и масштабной.

Сбербанк, который должен быть опорой для миллионов людей, совершает фундаментальную подмену: он отнял у человека право на суждение, превратив сотрудников и клиентов в придатки алгоритма, а автоматизацию рутины — в автоматизацию решений, где человеческий голос больше не имеет значения.

В этом вся суть российского HOOTL. У алгоритма нет полномочий сомневаться. Он не анализирует контекст, не проверяет историю отношений клиентов, не делает исключений. Он умеет только одно — рубить транзакции и блокировать счета. А сотрудник, транслирующий его вердикт, превращается в безгласый интерфейс, который не может ни объяснить решение, ни изменить его, ни назвать имя того, кто это решение принял, потому что такого имени просто не существует.

Причем для топ‑менеджмента банка перевод процессов в 100% HOOTL де‑факто размывает личную ответственность за операционную ошибку ^[29].

По иронии судьбы на главной ИИ‑конференции страны AI Journey ^[30], организованной самим Сбербанком, Владимир Путин прямо указал на тупиковость этого пути: «У всего искусственного, в том числе искусственного интеллекта, нет сердца, души, нет чувства сострадания и совести. А все эти компоненты чрезвычайно важны для людей, которых граждане наделяют особыми полномочиями в принятии и реализации решении, идущих на благо страны». Президент подчеркнул, что человек принимает решения «не в интересах машины, а в интересах живых людей, и должен думать именно об этом».

Но Сбербанк, кажется, построил систему именно в интересах машины. И пока коммерческие конкуренты вроде «Альфы» или «Т‑банка» внедряют аугментацию — бережно сохраняя человеческий арбитраж и интуицию ^[31] в рамках концепции Human‑in‑the‑Loop, Сбербанк упрямо бьется в глухую стену собственной модели. В этой цифровой вселенной нет места для 30-летней истории лояльности вкладчика. Там есть только бинарный код. Интересно, что они о себе думают?

4. Как автоматизация уничтожает будущую управленческую элиту

За рамками обсуждения прямых финансовых потерь от «кремниевых ошибок» остается еще один, самый разрушительный долгосрочный риск цифрового абсолютизма — системная деградация человеческого капитала. Выстраивая агентную экономику, где ключевые операционные решения принимает ИИ, финансовые институты незаметно для себя запустили процесс кадрового каннибализма, полностью уничтожив традиционные социальные лифты и механизмы воспроизводства управленческих навыков ^[32].

Сегодня, когда сотрудник банка на любой сложный вопрос клиента вынужден отвечать регламентированным скриптом «банк так решил», происходит глубокая психологическая и профессиональная деформация персонала. Живой человек в этой схеме искусственно лишен субъектности. Ему законодательно и программно запрещено думать. Робот не просто оптимизировал рутину — он забрал себе функцию суждения.

С точки зрения ^[33] теории менеджмента, невозможно вырастить лидера в условиях, где его единственной обязанностью является безоговорочное согласие с вердиктом «черного ящика». Если специалист годами работает в режиме биоробота, у него наступает профессиональное выгорание и атрофируется сама способность к принятию решений. Возникает феномен «выученной беспомощности»: сотрудник привыкает к тому, что система всегда права, а его личное мнение имеет нулевую ценность.

Кризис преемственности

Этот операционный тупик создает для финансового гиганта критический риск преемственности. Через 10–15 лет неизбежно наступит момент, когда текущее поколение топ‑менеджеров, формировавшееся еще в эпоху «живого» банкинга и обладавшее гибким стратегическим мышлением ^[34], отойдет от дел.

Кого корпорация поставит на их место? Менеджеров новой формации, которые выросли внутри ИТ‑экосистем, но ни разу в жизни не принимали критических решений вручную и не сталкивались с личной ответственностью за ошибку?

В условиях масштабного макроэкономического шока, когда старые математические модели ИИ неизбежно сломаются, однородная цифровая система окажется парализованной. На вершине пирамиды управления окажутся люди, приученные бездумно доверять алгоритмам. Не имея опыта ^[35] ручного антикризисного управления, они просто не смогут взять на себя ответственность за судьбу многотриллионных активов.

Эффективность, купленная ценой тотальной автоматизации нижнего звена, в долгосрочной перспективе обернется катастрофическим дефицитом управленческих кадров. Этот скрытый дефицит — не гипотетическая угроза, а уже наблюдаемая реальность. Согласно опросу Careerminds, три четверти организаций заявили, что признали, что сокращение персонала из‑за ИИ оказалось финансово неоправданным, а до 90% пересмотрели бы это решение. Аналитики Gartner ^[36] прогнозируют, что к 2027 году половина компаний, сокративших поддержку из‑за ИИ, вновь наймут людей.

5. Макроэкономический финал для HOOTL в России

Размывание ответственности менеджмента: Миллиардные потери из‑за ошибок ИИ, за которые никто не отвечает (ведь ошиблась модель ^[37]). Кадровый эйджизм (вымывание профи 45+ ^[38]) привел к тому, что остаются бесправные операционисты‑«интерфейсы», неспособные оспорить глупость машины, и такие же бесправные руководители среднего звена.

Риск «Черного лебедя» для страны: В случае геополитического шока паникующий «цифровой бюрократ» системообразуещего банка способен веерно заблокировать расчеты реального сектора экономики по 115-ФЗ, парализовав страну.

Экономический луддизм: Клиенты не ломают банкоматы, они просто молча уносят деньги в Альфу, Т‑банк, Точку и другие банки, превращая Сбер в пустой «транзитный мост» для СБП.

Вот и вопрос — Российский банковский HOOTL для людей или для отчетности?

P. S. Информации по банковским ИИ технологиям много, но я не привожу здесь ссылки, так как доступ к ним частично ограничен и часто требует платной подписки на ресурс, например Harvard Business Review.