В РАН назвали топ уязвимостей внедрения ИИ в финансовой сфере

В РАН заявили ^[1], что 70% финансовых организаций сегодня используют искусственный интеллект ^[2]. Чаще всего его применяют в платежах, кредитном анализе, страховании и управлении активами. Во всех этих сферах ИИ повышает эффективность за счёт снижения издержек, обеспечения соблюдения требований регуляторов, выявления мошенничества и улучшения клиентского сервиса.

По оценке Глобального института McKinsey, только в мировом банковском секторе внедрение ИИ может ежегодно приносить 3–5% совокупной выручки отрасли. Такие данные приводит доктор экономических наук Института экономики РАН Дмитрий Кочергин в статье об основных направлениях использования искусственного интеллекта в финансовой сфере.

Однако массовое внедрение нейросетей сопровождается серьёзными рисками. Усиливается угроза кибератак. Генеративные модели расширяют возможности злоумышленников по созданию фишинговых писем, вредоносного программного обеспечения и захвату пользовательских устройств. Это может привести к краже данных, вымогательству и мошенничеству.

Другой источник угроз — атаки с отравлением данных. Злоумышленники могут вмешиваться в массивы, на которых обучаются языковые модели финансовых организаций, чтобы изменить их поведение ^[3] и нарушить работу систем. Поскольку всё больше приложений используют данные, созданные самими моделями, операционные риски для финансового сектора возрастают.

Отдельная проблема — предвзятость алгоритмов. Модели могут воспроизводить и усиливать искажения в данных, что ведёт к дискриминации при страховании и кредитовании, ограничению доступа уязвимых групп к финансовым услугам. В условиях жёстких стандартов защиты данных применение ИИ повышает юридические риски, особенно из‑за склонности к «галлюцинациям» нейросетей.

Существенные угрозы связаны с зависимостью рынка от ограниченного круга поставщиков языковых моделей. Высокие затраты на разработку и концентрация данных приводят к олигополии: несколько компаний контролируют весь рынок. Любой сбой или атака на них создаёт риски для всех пользователей. При этом даже собственные банковские нейросети обычно основаны на одних и тех же технологиях и ведут себя схожим образом.

Разные банки и инвестиционные компании используют одинаковые алгоритмы, которые начинают принимать схожие решения автоматически. В результате игроки одновременно покупают или продают одни и те же активы, двигают цены в одном направлении и фактически действуют как единый скоординированный участник рынка. Формального сговора нет, но эффект для рынка — искажение цен, рост волатильности и риск манипуляции.

В позитивном сценарии, при контролируемом внедрении, ИИ способен повысить производительность, поддержать экономический рост и замедлить инфляцию. В негативном варианте — при спонтанной автоматизации — возможны девальвация рабочей силы, рост дефолтов, ускорение роста цен и снижение налоговых доходов. Эти факторы способны подорвать финансовую стабильность.

По оценке Центрального банка России, во втором полугодии 2025 года нейросети использовал каждый второй банк. В страховании ИИ внедрили 80% компаний, а среди профессиональных участников фондового рынка — 70%.

Вследствие широкого внедрения ИИ финансовые системы многих стран существенно изменятся. Трансформация затронет архитектуру и инфраструктуру рынка — от развития автоматизированных рынков капитала до усиления роли цифровых валют центробанков и децентрализации финансовых услуг. Изменятся и бизнес‑модели: часть массовых профессий исчезнет, появятся автономные ИИ‑агенты и суперприложения, усилится персонализация и дифференциация продуктов.

Надзор и регулирование также могут быть реформированы — с переходом к контролю и применению инструментов денежно‑кредитной политики в режиме реального времени и принятием глобальных стандартов в области ИИ. Такие изменения повысят системную хрупкость и создадут киберугрозы нового поколения. В целом финансовые системы станут более эффективными и удобными, но, вероятно, менее справедливыми и прозрачными.