Klarna у Карла украла работу: история о том, как сначала уволили 700 человек, а потом вернули, заменив ИИ живыми людьми

На Хабре часто пишут об автоматизации бизнеса, и сегодня я хочу разобрать безупречный, без примесей, находящийся в сферическом вакууме кейс замены людей ИИ.

Все условия были созданы: компания — на взлете, босс — поклонник ИИ, сфера деятельности — клиентская поддержка онлайн. Идеальные условия для внедрения ИИ. 

Что могло пойти не так?

Автоматизация в Klarna напрашивалась сама собой

Klarna — шведская финансовая компания, работающая по модели «купи сейчас, заплати позже» и предоставляющая различные платежные сервисы. Когда человек покупает что-то через Klarna, у него неизбежно возникают вопросы: почему не прошел платеж, когда вернутся деньги, как изменить график оплаты, что делать с отмененным заказом или почему списалась определенная сумма.

Для самой Klarna это означает огромный поток обращений в поддержку.

До внедрения AI компания использовала около 3 000 внешних операторов. Большая часть их работы была довольно предсказуемой: проверить данные клиента, посмотреть статус платежа, объяснить правила возврата, изменить платежный план или провести стандартную операцию.

Именно поэтому клиентская поддержка стала одним из первых мест, где Klarna решила внедрить генеративный AI.

Но это был не обычный чат-бот

В начале 2024 года Klarna запустила AI-ассистента на базе технологий OpenAI.

Причем компания сделала его не просто ботом, который ищет ответы в базе знаний и пишет клиенту готовый текст. Klarna построила систему на основе автономных агентов, способных выполнять целые цепочки действий.

AI мог получить доступ к данным клиента, проверить состояние обращения, взаимодействовать с внутренними системами Klarna, оформить возврат или изменить платежный план. То есть клиенту не нужно было сначала поговорить с ботом, а потом ждать, пока человек выполнит операцию вручную.

Агент мог сделать это самостоятельно.

Для Klarna такая модель была особенно привлекательной. Если вопрос повторяется тысячи раз и для его решения существует понятная последовательность действий, нет смысла заставлять человека выполнять одну и ту же операцию снова и снова.

Первый месяц — тотальный успех

В первый месяц после запуска AI-ассистент обработал 2,3 млн разговоров — около двух третей всех чатов клиентской поддержки Klarna.

Среднее время решения вопроса сократилось с 11 минут до менее чем двух. Количество повторных обращений снизилось на 25%, а Klarna заявила, что AI выполняет объем работы, эквивалентный примерно 700 сотрудникам на полной занятости.

Компания также подсчитала, что внедрение может добавить около $40 млн к ее годовой прибыли.

AI работал круглосуточно и мог обслуживать клиентов на десятках языков. При этом речь шла не только об экономии на зарплатах: чем больше стандартных обращений обрабатывала машина, тем меньше операторов требовалось подключать к поддержке.

Внешняя служба поддержки Klarna в результате сократилась примерно с 3 000 до 2 300 операторов.

Казалось, компания нашла идеальную формулу: AI берет на себя рутину, а бизнес экономит деньги и одновременно отвечает клиентам быстрее.

Но потом появились вопросы

Проблема обнаружилась не в обычных обращениях.

Если клиент спрашивает, когда ему вернут деньги за отмененный заказ, AI прекрасно справляется. Он видит данные о покупке, проверяет статус возврата и может сообщить клиенту, что происходит.

Но представим другую ситуацию.

Клиент обнаружил, что кто-то получил доступ к его аккаунту и совершил несколько операций. Деньги уже списаны, стандартная процедура возврата не подходит, а в истории обращений есть несколько противоречивых деталей.

Здесь уже недостаточно найти правильный ответ в базе знаний.

Нужно разобраться в контексте, понять, что произошло, оценить ситуацию и решить, какое действие будет правильным.

Такие случаи в разработке AI называют edge cases — нестандартными сценариями, которые выходят за рамки типичного поведения ^[1] системы.

И именно здесь у Klarna возникла проблема.

AI забрал большую часть простых обращений, но тем самым оставил людям преимущественно самые сложные.

Чем лучше работал AI, тем сложнее становилась работа человека

Это оказался довольно неприятный парадокс ^[2].

До автоматизации оператор мог весь день отвечать на простые вопросы и иногда сталкиваться со сложными.

После автоматизации простые вопросы просто исчезли.

А значит, когда к человеку все-таки приходило обращение, оно с гораздо большей вероятностью оказывалось сложным, эмоциональным или нестандартным.

Получалось, что человеческая поддержка становилась меньше по объему, но сложнее по содержанию.

Именно такие случаи особенно плохо укладываются в систему, построенную вокруг средней скорости ответа и стоимости одного обращения.

Forbes отмечал, что Klarna столкнулась с ситуациями, где требовались человеческая экспертиза, нюансированное мышление ^[3] и эмпатия. Компания поняла, что даже очень эффективный AI не отменяет необходимости сохранять людей для таких edge cases.

Klarna пришлось менять стратегию

Klarna не отказалась от AI и не вернула прежние 3 000 операторов.

Компания решила оставить AI там, где он действительно эффективен, а человеческую экспертизу сосредоточить на сложных обращениях.

Для этого Klarna сформировала небольшую команду примерно из 100 высококвалифицированных специалистов, которые работают со сложными запросами и помогают определить, где человеческое участие действительно необходимо.

Если бы Klarna действительно поняла, что AI был ошибкой ^[4], можно было бы ожидать возвращения к старой системе.

Произошло обратное.

По данным Forbes, объем работы, выполняемой AI, вырос с эквивалента 700 сотрудников до примерно 850.

При этом AI-ассистент продолжил участвовать примерно в 80% всех чатов поддержки.

То есть после всех проблем Klarna не стала уменьшать использование AI.

Она стала лучше определять, где заканчивается его зона ответственности.

Простые и повторяющиеся вопросы по-прежнему уходят машине. AI может проверить данные, выполнить стандартную операцию и закрыть обращение без участия человека.

Если же ситуация превращается в edge case, подключается человек.

Самая большая ошибка была не в сокращениях

Когда ты смотришь только на средние показатели, edge cases выглядят незначительными. Если 80% обращений можно решить автоматически, возникает соблазн сказать: «Отлично, давайте автоматизируем еще больше».

Но оставшиеся 20% — это не обязательно еще 20% обычной работы.

Там могут находиться самые дорогие ошибки, самые раздраженные клиенты и ситуации, где неправильный ответ может стоить гораздо больше, чем экономия на одном операторе.

Klarna пришлось сохранить человеческую экспертизу именно поэтому.

Не для того, чтобы снова отвечать на миллионы простых вопросов.

А для того, чтобы разбираться с тем, что AI не умеет надежно формализовать.

Короче, выводы

📍 AI оказался действительно эффективным. За первый месяц он обработал 2,3 млн разговоров, а объем его работы Klarna позже оценивала уже примерно как работу 850 сотрудников.

📍 Проблема возникла на edge cases. Это редкие и нестандартные ситуации, где недостаточно следовать готовому алгоритму и требуется контекст, опыт ^[5] и человеческое решение.

📍 Klarna не вернула старую систему. Компания сократила зависимость от массовой человеческой поддержки, но оставила около 100 специалистов для сложных обращений.

📍 AI продолжает обрабатывать около 80% чатов. То есть после корректировки стратегии компания не стала меньше использовать AI — наоборот, его роль выросла.

📍 Главный урок — не пытаться автоматизировать все подряд. Нужно заранее определить, какие задачи действительно подходят AI, а где необходимо сохранить человеческую экспертизу.

Klarna хотела проверить, может ли AI заменить большую часть работы службы поддержки.

Оказалось, что может.

Но вместе с этим выяснилось кое-что еще: чем больше работы забирает AI, тем важнее становится человек, который умеет разобраться в том, что не укладывается в инструкции.