Как слить 250 миллионов долларов с помощью ChatGPT: мастер-класс от главы Krafton

Помните историю Грасиэлы Дитор? Она уволила адвоката и доверила свою защиту в суде ChatGPT ^[1]. Итог — иск против OpenAI на 10 миллионов. Но, как оказалось, это были только цветочки. Недавно разыгралась куда более сюрреалистичная драма, на фоне которой дело Дитор выглядит невинной шуткой.

Главный герой — Чанхан Ким, генеральный директор многомиллиардной корпорации Krafton ^[2]. Человек с огромными ресурсами и властью. Но ему было мало. Он решил, что может перешагнуть через юридические нормы и здравый смысл, используя ИИ.

Это решение обошлось ему в 250 миллионов долларов прямых выплат, не считая гигантских судебных издержек и уничтоженной репутации.

Вот как это было.

Эпоха цифрового всемогущества

Несколько лет назад Krafton купила студию Unknown Worlds ^[3], создавшую хит Subnautica ^[4]. Ким пообещал основателям студии бонус в 250 миллионов долларов, если их следующая игра достигнет определенных показателей. Скорее всего, тогда он был уверен, что платить не придется. Но когда внутренние отчеты показали, что Subnautica 2 вот-вот побьет все рекорды и станет золотой жилой, Ким осознал: четверть миллиарда придется отдать.

Для Кима это было как удар под дых. Признать, что он «промахнулся» в прогнозах и теперь должен кучу денег, было выше его сил. И вместо того чтобы выполнять условия сделки, он решил, что наступила эра цифрового всемогущества.

Зачем соблюдать контракты, когда под рукой есть искусственный интеллект ^[5]?

Он открыл ChatGPT и спросил, как ему соскочить со сделки.

На этот прямой вопрос чат-бот честно ответил, что разорвать такой контракт будет крайне сложно (по сути, он просто повторил то, что Киму уже говорили его собственные юристы и глава отдела корпоративного развития Мария Пак).

Но для босса мегакорпорации советы имеют смысл только тогда, когда они тешат его эго. Он решил, что сможет заставить ChatGPT найти лазейку и вывернуть всё в свою пользу.

И, как ни абсурдно это звучит, он начал манипулировать нейросетью, пытаясь вытянуть из неё «секретное знание».

Кстати, об инструментах. Если вам нужен доступ ко всем ключевым моделям — Claude, GPT, Gemini — загляните на BotHub.

Для доступа не требуется VPN, можно использовать российскую карту.

По ссылке вы можете получить 300 000 бесплатных токенов ^[6]  для первых задач и приступить к работе с нейросетями прямо сейчас!

Преступный сговор с ботом

Час за часом Ким перефразировал вопросы, менял вводные данные и смещал акценты. И вскоре он получил то, что хотел. ChatGPT отбросил юридические дисклеймеры и выдал Киму детальный план враждебного поглощения.

Бот подготовил документ под названием «Стратегия реагирования на сценарий отказа от сделки для Кима ^[7]». План включал создание секретной рабочей группы для принудительного пересмотра условий выплат. В случае провала переговоров бот советовал заблокировать права студии на публикацию игр в Steam и на консолях.

Все эти «советы» были абсолютно незаконными. Если бы их дал живой человек, он стал бы соучастником преступления.

Но ChatGPT — не человек, и Кима это не беспокоило. Он последовал «плану» буквально по пунктам: уволил основателей студии, захватил контроль над игрой и закрыл разработчикам доступ к их собственной платформе. Он даже разослал фанатам игры письмо с требованиями, написанное ИИ, даже не потрудившись его вычитать. Ким полностью доверился «интеллекту» своего цифрового подельника.

Но всё пошло не так. По сути, ChatGPT стал не инструментом спасения денег, а архитектором катастрофы.

Пока Ким думал, что использует «технологии будущего», чтобы обойти закон, на самом деле он просто тщательно документировал собственное преступление.

Кнопка «Удалить», которая не сработала

Самая комичная ошибка ^[8] Чанхана Кима заключалась в его вере в кнопку «Удалить». Глава технологической корпорации наивно полагал, что если нажать кнопку в интерфейсе ChatGPT, данные исчезнут навсегда.

Он забыл (или не хотел знать), что для OpenAI его признания в планировании аферы — это не «приватная беседа», а ценное топливо для обучения ^[9] моделей. Все логи сохраняются.

Во время суда по делу Fortis Advisors против Krafton  ^[10]судья Лори Уилл отправила горе-директора в суровую реальность: логи его общения с ботом были подняты из облачных архивов OpenAI и предъявлены в суде как прямые доказательства преступного сговора. Ким фактически совершил юридическое самоубийство ^[11], передав пошаговый план своего мошенничества третьей стороне. А так как алгоритм — не адвокат, на общение с ним не распространяется тайна переписки. Переписка с ChatGPT стала той самой «уликой в руках прокурора».

Суд штата Делавэр разнес «гениальный план» Кима в пух и прах. Секретная группа «Проект X ^[12]», созданная по совету ИИ для саботажа сделки, была признана инструментом корпоративного грабежа. Судья назвала оправдания Krafton полностью сфабрикованными.

В итоге все уволенные сотрудники были восстановлены в должностях, а их контракт на 250 миллионов был продлен.

Ким хотел сэкономить четверть миллиарда, а в итоге заплатит гораздо больше и стал посмешищем для всей индустрии.

Умный, но безнадежно глупый

Эта история — не просто частный случай одного нечестного директора. Чанхан Ким — это архетип современного корпоративного босса. Эти люди, ослепленные жадностью, готовы использовать любую технологию, не пытаясь понять её суть, если она обещает «волшебную палочку» для обхода законов или получения сверхприбылей.

И, к сожалению, индустрия ИИ сама подкармливает такие иллюзии. Нам годами внушают, что ИИ способен «рассуждать ^[13]», что у него есть «интеллект ^[14]» и чуть ли не «сознание ^[15]».

Но случай с Krafton в очередной раз доказывает абсурдность этих утверждений. Будь у ChatGPT настоящий интеллект, он бы распознал незаконный характер запроса и не стал бы соучастником аферы. Вместо этого он послушно выдал сценарий захвата, подтвердив свой статус «статистического попугая», который просто подбирает наиболее вероятные слова, чтобы угодить хозяину.

Бот оказался одновременно и «продвинутым», и безнадежно тупым подельником. Будь он способен думать, он бы предупредил своего босса: «Эй, вообще-то всё, что ты мне тут пишешь, может быть использовано против тебя в суде».

Заключение

К сожалению, ИИ становится не только помощником человеческого разума, но и усилителем человеческих пороков. И большой вопрос, что происходит чаще.

В этой технологии нет ни мудрости, ни морали. Это просто нестабильный генеративный инструмент, способный произвести впечатление ^[16] лишь на тех, кто не видит разницы между статистикой и мышлением ^[17].

Пока мы не откажемся от иллюзий, что сегодняшний «суррогат интеллекта» оправдывает своё название, мы будем платить за это высокую цену. История Кима важна не только из-за своей абсурдности. Она ясно показывает: за попытку заменить разум алгоритмом всегда приходится расплачиваться — иногда деньгами, а иногда и репутацией.