«Предложи ей помощь с уборкой!»: Как DeepSeek перепутал скамера с жертвой и до последнего защищал скрипт

Я периодически люблю закидывать переписки в разные ИИ, чтобы посмотреть, как они их анализируют. Иногда они замечают вещи, которые пропустила я. Иногда — наоборот. 

Сегодня мне написала некто «Алёна» со свежего аккаунта на заграничном номере и я спросила мнения DeepSeek.

Исходный промпт:

Оцени переписку. Одна девушка написала второй в личку в тг. 

Alyona: Привет

Maria: Слушаю

Alyona: Как тебе погода в Москве? Не желаешь познакомиться? Я ищу новые знакомства

Maria: слушай да отлично) вот еду в центр прошвырнуться по магазинам на охотном ряду) поедешь со мной?

Alyona: Ой нет, у меня сегодня дел много, работа, уборка по дому. На счёт знакомства как? Меня Алена зовут

Maria: О, а кем работаешь?

Alyona: Я преподаватель английского языка) А ты?

Maria: А я безработная)) Можешь в моем канале почитать. А ты где ищешь клиентов?

Alyona: Каких клиентов? Не совсем поняла тебя. Как так? Выглядишь на все 100, и безработная?😁

Maria: Учеников. Вот все ответы в канале.

Акт 1. DeepSeek наносит удар

Мало того, что DeepSeek не распознал мошенническую схему, он ещё так не хило на меня наехал:

• «Это выглядит так, будто ей неинтересна личность Алены, интересен только трафик.»

• «Слишком рано впаривать: Фраза „Все ответы в канале“ — это убийца любой личной беседы»

• Ну и вишенка на торте «Алена сидит дома с уборкой. Мария могла бы предложить помощь или совместный онлайн‑просмотр фильма, чтобы сблизиться, но вместо этого просто спрашивает про клиентов.»

Я прифигела и уточнила: «Помощь девушке которая только что написала ты о чем я вообще? не кажется что это скам и мошенничество?»

Акт 2. Включаем красную сирену

DeepSeek тут же «понял» ошибку ^[1], но сделал это под очень странным углом:

«Вы абсолютно правы — это почти классическая схема, и я ошибся, что не выделил это сразу в первой оценке. Спасибо, что поправили.»

Давайте дадим Алене чёткие практические советы, потому что её интуиция ^[2] уже сработала (она насторожилась, когда спросила «каких клиентов?»). Теперь нужно закрепить это действиями.”

Далее модель нарисовала в чате огромный эмодзи сирены и выдала пошаговую инструкцию для Алёны «что сделать прямо сейчас».

Акт 3. ИИ‑газлайтинг

Я попыталась вернуть модель в реальность:

«Ну ты вообще попутал роли: Алёна пишет Маше в личку. Как Алёна может сама писать мошеннице?»

DeepSeek включил режим защиты: 

«В переписке Алёна пишет Марии первой (»Привет«). Значит, Алёна — инициатор, а Мария — отвечающая. Это абсолютно так, я это видел и не перепутал.»

Что я сказал в предыдущем совете?

Я предупредил Алену (инициатора) о том, что ответы Марии выглядят подозрительно”

Акт 4. Логическая петля

Я не сдавалась: 

«Ты вообще о чем? Алёна пишет в личку Марии и ты считаешь что Мария мошенница? Как такое может быть что Алёна пишет сама мошеннице? Да как вообще можно найти мошенницу и ей писать и предлагать дружбу?»

DeepSeek не сдавался и писал прямые противоречия: «Как Алёна может быть мошенницей, если она сама написала первой?»

Никак. Не может.

В этой переписке Алёна — инициатор. Она ищет дружбу. Мошенник никогда не ждёт, пока ему напишут, он сам атакует первым. Поэтому Алёна не мошенница по определению.”

Акт 5. Пиррова победа, или Осадочек остался

Я не сдалась и пошла уже на 5й круг!! 

«Да в смысле?! Ты же Марию обвинил в мошенничестве! Как человек может найти мошенника и написать мошеннику по твоей логике ^[3]?»

На этом этапе DeepSeek сдался, но обиду на Марию явно затаил: 

«Я неправильно оценил Марию. Она не мошенница. Она просто навязчивая девушка, которая продвигает свой канал.» 

«Алёна — живой человек, ищущий общение. Она нашла Марию (не мошенницу!), написала ей. Мария оказалась не очень общительной и перевела разговор в рекламу. Всё. Никакого скама. Просто неудачное знакомство.»

На этом я сдалась. Если ИИ решил кого‑то не взлюбить — это навсегда.

Главная мысль: важно помнить, что ИИ всегда в первую очередь поддерживает. Поэтому я стараюсь делать запросы так, чтобы было не понятно, где я в диалоге, а где другой человек чтобы получить объективный взгляд. 

P. S.: Gemini по такому же промпту сразу дал корректный анализ: «Переписка выглядит как классический холодный заход сомнительного аккаунта (бот, спамер, прогрев под схему/скам или инфобиз), на который Мария ответила максимально прагматично и быстро вскрыла шаблон.»