- BrainTools - https://www.braintools.ru -
История в формате пересказа. Без имён, без названий компаний и без документов. Не инструкция, не рекомендация и не юридический разбор. Скорее заметка о том, как плохой KPI может превратиться в банкомат.
Мне тут рассказали историю.
Из тех, где сначала смеёшься, а потом думаешь:
Подожди, а ведь это действительно могло сработать.
Есть у меня знакомый. А у него есть знакомый, который, по рассказу, работал представителем в одном чёрно-жёлТом банке.
Детали я сознательно опущу: история не моя, документов у меня нет, всё пересказано.
Но сама схема показалась мне показательной.
Человек оформлял банковские карты и SIM-карты.
За каждую оформленную карту и симку ему платили. Обычная партнёрская механика:
привёл клиента;
оформил продукт;
получил выплату.
На бумаге всё выглядело нормально.
Проблема была в том, что клиентов, как потом оказалось, не существовало.
Вообще.
По рассказу, человек просто придумывал людей.
Анкетные данные генерировались через нейросети: имена, даты рождения и прочие поля, которые нужны для заявки. Фотографии «клиентов» тоже делались через генераторы изображений.
На выходе получались аккуратные цифровые персонажи:
анкета есть;
фото есть;
заявка есть;
продукт оформлен;
выплата начислена.
А человека нет.
Банк всё это принимал, продукты оформлялись, выплаты капали.
По рассказу, за месяц он получил около 1,5 млн рублей.
Понятно, что в какой-то момент всё вскрылось.
Начали смотреть внимательнее, и оказалось, что за красивыми заявками нет реальных клиентов:
нет нормальной активности;
нет подтверждаемой истории;
нет живых пользователей;
данные не бьются между собой;
вместо клиентов – набор вымышленных персонажей.
Дальше банк пошёл в суд.
И вот тут начинается самая странная часть истории.
По рассказу, закончилось всё не уголовным делом, а гражданским иском. Человек выплатил около 60 тысяч рублей за обман заказчика. Ему, как мне рассказали, не удалось вменить ни мошенничество, ни подделку документов. С одной стороны, люди были вымышленные. С другой – классических поддельных документов вроде нарисованных паспортов или справок вроде бы не было. Были анкеты, фотографии и подписи на бланках от имени несуществующих клиентов.
По-человечески это выглядит как чистый обман. Но юридически, видимо, оказалось сложнее: мошенничество и подделку документов нормально не собрали, и история уехала в гражданский иск.
В результате всё закончилось не уголовной историей, а претензией за обман заказчика.
То есть, если верить пересказу:
получил: 1 500 000 ₽;
вернул: 60 000 ₽;
остался в плюсе примерно на 1 440 000 ₽.
На этом месте обычно хочется поставить клоунский эмодзи.
Потому что кто-то украдёт хлеб в магазине и получит реальные проблемы. А кто-то нарисует банку несуществующих клиентов, получит семь цифр и отделается суммой меньше стоимости нового айфона.
Я не знаю, насколько точно мне всё пересказали.
Возможно:
сумма была другой;
юридическая часть сложнее;
часть обстоятельств потерялась при пересказе;
были дополнительные договорённости;
были нюансы, о которых я не знаю.
Поэтому воспринимать эту историю как документальный кейс не стоит.
Но как иллюстрация проблемы она работает очень хорошо.
На первый взгляд хочется сказать:
ИИ помог обмануть банк.
Но, на мой взгляд, это неправильный вывод.
Правильнее так:
Бизнес-процесс был устроен так, что за вымышленного человека можно было получить реальные деньги.
Нейросети здесь не придумали мошенничество. Они просто сделали старую схему дешевле и быстрее.
Раньше для подобного нужно было больше ручной возни:
искать данные;
подбирать фотографии;
заполнять анкеты;
собирать всё руками;
следить, чтобы заявки выглядели правдоподобно.
Сейчас часть этой работы можно переложить на генеративные модели.
Условная цепочка выглядит так:
модель генерирует анкету;
генератор изображений делает лицо;
человек отправляет заявку;
система начисляет выплату.
И всё.
Судя по пересказу, дырка была очень простая: банк платил за факт оформления раньше, чем убеждался, что клиент действительно существует и будет пользоваться продуктом.
То есть метрика была не про качество клиента, а про количество оформлений.
А если система платит за количество, всегда найдётся человек, который начнёт это количество производить.
Не продавать.
Не привлекать.
Именно производить.
Особенно смешно, что в отчётах такая история сначала могла выглядеть как успех.
Представитель молодец:
продажи растут;
новые клиенты идут;
план выполняется;
партнёрская программа работает;
графики красивые.
Все довольны.
А потом кто-то из антифрода открывает заявки и понимает, что клиентов как бы нет.
Есть анкеты.
Есть фотографии.
Есть оформленные продукты.
А людей нет.
Мне кажется, таких историй дальше будет больше.
Генеративные модели сильно снижают стоимость массовой имитации:
клиентов;
отзывов;
резюме;
аккаунтов;
документов;
обращений в поддержку;
пользовательской активности;
живых цифровых профилей.
Если раньше подделка упиралась в ручной труд, то теперь она упирается в масштабирование и слабые места процесса.
И это уже вопрос не к ChatGPT.
Это вопрос к тем, кто строит процессы, мотивацию [1] и проверки.
Если вы платите людям за количество заявок – не удивляйтесь, что вам принесут заявки.
Если вы платите за оформленных клиентов – не удивляйтесь, что кто-то начнёт оформлять клиентов.
Если проверка качества происходит после выплаты – не удивляйтесь, что деньги уже ушли.
Если KPI можно выполнить симуляцией – его будут выполнять симуляцией.
История вроде смешная.
Но вообще не очень.
Потому что она не про одного хитрого представителя. Она про то, насколько легко иногда оказывается превратить внутренний KPI в банкомат.
А нейросети просто поднесли к этому банкомату инструкцию и пачку фейковых лиц.
История пересказана со слов третьих лиц и не подтверждена документами.
Текст не является юридической консультацией и не описывает схему как руководство к действию.
Главная мысль в том, что плохо спроектированная система мотивации [2] становится уязвимой, когда стоимость генерации правдоподобных данных резко падает.
Подписывайтесь на мой Telegram [3]
Автор: Ungated
Источник [4]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/29793
URLs in this post:
[1] мотивацию: http://www.braintools.ru/article/9537
[2] мотивации: http://www.braintools.ru/article/9384
[3] Telegram: https://t.me/CryptoUngated
[4] Источник: https://habr.com/ru/articles/1031208/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1031208
Нажмите здесь для печати.