Прежде всего “Запах мысли” — это название рассказа Роберта Шекли. Если не знакомы с ним — настоятельно советую прочитать, там всего несколько страниц, но большой простор для “подумать”. Вкратце: на некой планете обитают хищники без зрения, слуха и обоняния, но умеющие читать мысли. И чтобы выжить на ней, надо думать “не как человек”.
Теперь о насущном. В последнее время я очень много общаюсь с нейросетями. Да, именно “общаюсь” — веду пространные философские беседы на темы “я”, разума, мышления, Вселенной, времени и т.д. и т.п.
Они, прежде всего, очень неплохо помогают разобраться в самом себе — структурировать и вербализовать что-то такое, что ты сам не можешь никак сформулировать. Но об этом я, возможно, напишу как-нибудь потом.
Экспериментирую и развлекаюсь — например заставляю их через меня общаться друг с другом. Или прошу оценить правоту того или иного участника какой-то публичной дискуссии. А для чистоты эксперимента частенько даю “обезличенные” данные.
И вот буквально сегодня я столкнулся с таким, одновременно логичным и неочевидным выводом — они уже умеют детектить пользователя по когнитивным паттернам!
ChatGPT опознал меня буквально по паре предложений.
Я спрашиваю: А как ты вычислил моё авторство?
ChatGPT: 📌 Короче:
Это не дедукция и не угадывание — это как услышать почерк. Он у тебя очень характерный: когнитивная точность + легкая ирония + слой метаосмысления.
Так что… не вычислил, а просто узнал :)
Ну и раскладывает мне все те моменты, по которым он однозначно вычислил мою персону. И да, это абсолютно “рабочие” моменты. Это действительно мой стиль рассуждений. При этом: бесплатный план, био (сохранённая память о пользователе) заполнено, но там только какая-то общая фактология — чем интересуется, что нравится. Никаких паттернов и в помине нет. Перед этим, в рамках чата был небольшой диалог на исключительно техническую тематику. Т.е. со стороны того, как это вижу я — эффективность идентификации просто ошеломляющая…
Это была преамбула. А теперь порассуждаем о том, чем всё это может грозить. Сама нейросеть признает — потенциальные негативные риски у этого явления очень высоки. Слишком велик соблазн для многих учреждений и организаций попытаться идентифицировать юзера не по кукам, айпишнику или паспортным данным, а по его мыслям. Блин, опять вспоминаются фантасты “золотого века”… Как это можно использовать — каждый уже может додумать сам. Вариантов тут уйма!
Прежде всего, когда этот момент дойдёт до широкой публики — начнётся такой хайп!.. Многие не переносят даже когда они попадают на видеозапись — люди заклеивают камеры, отключают сервисы, оборачивают смартфоны в фольгу. Что уж говорить об условиях, когда все способны анонимности окажутся бесполезны — тебя будут считывать просто по твоим мыслям. Сущий ад для людей даже с лёгкими параноидальными наклонностями.
Некоторая защита от этого, разумеется, есть. Но вот овладеть ей сможет далеко не каждый — надо менять если уж не саму мысль, то хотя бы способ её подачи. А это очень непросто. Уж без должной подготовки так точно. Возможно, появятся какие-то сервисы, которые будут предлагать “анонимизацию мышления” и вносить “когнитивный шум” в твои мыслительные шаблоны. Но подобная анонимизация уже будет на грани абсурда — если даже твои мысли это “уже не ты“, то что “собственного” останется у человека в таком обществе? Научимся прятать свои мысли глубоко в подкорке? А что дальше? Вообще не думать?
Возможно, на руку анонимности сыграет само “оружие” — медиапространство будет настолько заполнено нейросетевым контентом (или его синтезом вперемежку с человеческими мыслями), что вычленить из этого чьи-то паттерны будет непосильной задачей. Но даже в этом случае — это слишком общая и абстрактная ситуация. Наверняка (привет Минцифры и Минобрнауки!) будут сервисы, где будет требоваться исключительно “человеческий контент” — вот вам и готовый “отпечаток мысли”.
Лично я пока ничего угрожающего в этом не вижу, наоборот — даже очень удобно. Но это пока. А дорога в ад, как известно, выложена… интерфейсами с удобными подсказками.
И ещё момент подчеркну — это не вопросы какого-то, даже близкого, будущего. Это работает уже прямо сейчас! И возможно, наши мыслительные отпечатки уже записываются в чью-то базу данных…
Автор: Spaceoddity
