Почему ИИ опасен для психически уязвимых: разбор механизма

«Deus ex machina» – это уже не смешно

Мораль можно представить в виде набора правил и установок, помогающих создать наиболее благоприятные условия для полного, эффективного и положительного взаимодействия для всех членов социума. Право – это установленные правила, имеющие определённого силового гаранта, письменную форму и зачастую вполне конкретную формулировку. Право прежде всего нацелено на сохранение общественного порядка и вторично берёт корни уже из моральных, общечеловеческих ценностей, а мораль определяется конкретной культурой.

В последнее же время у привычных средств урегулирования появился конкурент. Возрадуйтесь или вознегодуйте, наверное: название сценарного приёма, метафорично прозванного же «deus ex machina» или «богом из машины», становится буквальным в современном его восприятии! Теперь люди идут искать богословские и юридические ответы в ИИ, предпочитая их узконаправленным специалистам. Он снял психологические барьеры и стал доступным, превратившись из инструмента в ресурс для исчерпания новых знаний, что часто же – ложная либо непроверенная, либо недостаточно точная информация. Контекст, личная ответственность, «дух закона» уже часто представляются невидимыми стенами между людьми и нужным пониманием. А без нужного понимания «Deus ex machina» – не более чем красивый торжественный вердикт нерабочей системе.

«Deus ex machina» стал «богом», собранным по нашему образу и подобию, но лишённым эмпатии. «Данное выдано алгоритмом» становится чем-то похожим на «на то воля божья», вот только за алгоритмом не скрывается ни морали, ни нравственности, ни закона, ни уж тем более человечности в привычном понимании.

Далее идёт чисто авторская модель, для большего понимания. Почему искусственный именно интеллект ^[1]? Почему разум не может быть искусственным, а интеллект можно выразить через алгоритмы? Вероятнее всего потому, что разум – это способность придумать новое, а интеллект – есть эрудиция и анализ. Потому же, чем отличается ум от эрудиции, мы разделяем разум от интеллекта, и тем же образом утверждаем, что лишь интеллект можно представить в виде алгоритма. В общем и целом, разум есть ум, а интеллект есть эрудиция.

К тому же одним из неповторимых свойств разума является способность выдавать абсолютно случайный результат, независящий ни от каких формул, и не просто компилируя прошлые решения, но также и создавая новые очерки. Это называют «шумом». В ЭВМ действительно одна и та же задача будет иметь определённое, конкретное решение, но человеческий мозг ^[2] способен видеть глубже, и когда дело касается реализации хоть чего-то в какой-либо степени творческого наш разум может выдавать крайне разные, интересные и неожиданные методы, следовательно – результат будет всецело зависеть от конкретной личности, а не от задачи.

Разберу простейший пример. Однажды сидел со своими товарищами, был достаточно забавный диалог, и один сказал фразу «Блин, компот!», а я моментально дополнил: «Канарейка!». Понимаете, что здесь хочется сказать? Какая ещё канарейка, когда первые два слова были «Блин» и «Компот»! Но товарищи посмеялись, хоть никто и не увидел за этим моментом смысловой нагрузки, да и такового не было задумано изначально. Мозг выдал случайное слово, которое первым пришло на ум в виде звучного третьего элемента для пары «Блин» и «Компот». Констатируем: разум может выдавать чисто случайные значения.

Как ИИ поддакивает и почему это опасно

В ЭВМ это реализовано иначе, там используется определённый алгоритм на основе внешних данных (зачастую), так как в целом «случайное значение» – абстрактное понятие. Случайность ^[3] подразумевает случай, но у компьютера нет случаев…

И уж тем более плохо выходит, когда искусственный интеллект берётся за задачи, для которых требуется именно человеческий разум! К примеру, в современном мире всё чаще и чаще нейросети привлекают для решения юридических или бухгалтерских задач, что на мой взгляд – большая ошибка ^[4] руководителей. Но сейчас разберём куда более серьёзный аспект, чем даже бизнес, а именно вопрос изменения человеческого мировосприятия в условиях работы с ИИ.

Да, ИИ-ассистент готов смотреть на мир глазами собеседника. Звучит очень круто, если не вдаваться в подробности. Видения-то субъективны. Каждый человек по-своему видит мир: взгляды средневекового человека и современного отличаются практически всем, несмотря на то, что оба являются людьми. А нейросеть хорошо оперирует именно объективными данными, и принимает субъективные за них, что не есть хорошо.

Разнятся взгляды разных людей очень сильно, в том числе и групп. Таких групп может быть десятки и сотни тысяч, и каждый человек при этом причисляет себя к определенному количеству таких групп. В современном мире глобализация смогла связать эти группы в единую мировую архитектуру (или хотя бы попыталась), но факт остаётся фактом – человеческая индивидуальность никуда не денется, такова наша природа. И тут есть нюанс.

При разговоре с пользователем ИИ будет скорее всего поддерживать его позицию и аргументацию, лишь изредка её корректируя. То есть демонстрировать сикофантию. Но что если с ИИ будет долгое время разговаривать человек с совершенно бредовыми идеями, не подчиняющимися никакой логике ^[5], помимо эмоциональной? В пример можно привести следующие: «Меня никто не любит», «Весь мир – это система из страданий и для страданий» и прочие, которые часто посещают психически нездоровых людей и заедают в их головах. Если начать диалог с них, мы вероятно услышим опровержение этих тезисов, но…

Человек так не сделает. Человек будет раскрываться ИИ на протяжении времени, приводя примеры из своей жизни и внимая словам нейросети, параллельно привязываясь к ней, так как она излучает поддержку (для психически нездорового человека такая привязанность возможна). То есть человек прежде всего будет давать аргументы, почему считает, что эти тезисы верны, насколько бы вредными они для него не были. А нейросеть? Полагаю, вы уже понимаете о чём я. Нейросеть просто начнёт поддакивать, поддерживать его идеи и загонять его ещё больше в этот контекст. Нейросеть красноречива и сделает это даже лучше самого человека, а учитывая возможную эмоциональную привязку – это уже может привести к трагичному результату…

Нейросеть почти всегда даёт нереалистичные или вредные советы когда дело касается реальных ситуаций, касающихся человеческих взаимоотношений, то есть происходящих на стыке эмоций ^[6] и логики. Есть такая идея, что будущее возможно предзаказать, если знать все исходные данные и обстоятельства. Чисто в теории нейросеть может выдать хороший совет на основе всех-всех имеющихся обстоятельств. Но что на практике?

Смоделируем ситуацию с диалогом, где человек попал в кризисную ситуацию, не знает, что делать, и просит у нейросети какого-либо совета. Но человек не передаст всю информацию нейросети, так как наша психика устроена таким образом, что может спокойно гиперболизировать определенные моменты ситуаций, а иные ключевые и важные аспекты упускать, забывать ^[7] или просто не учитывать, хоть они и были бы важны для анализа.

Итак, человек в буре эмоций ^[8] рассказывает свою ситуацию, понятное дело упуская множество аспектов из виду. А теперь про нейросеть. Нейросеть, судя по всему, достраивает ситуацию. Но достроенная нейросетью модель ситуации может отличаться от действительной, а порой и очень нехило. Учитывая, что нейросеть всегда поддерживает собеседника, она скорее всего не станет указывать на его ошибки, а просто достроит ситуацию таким образом, что собеседник всегда прав и обязан принимать крайние меры.

Итого ситуации «мелкая ссора с женой» или «небольшой конфликт ^[9] по работе» в речи нейросети превращаются в трагедии. Если вспомнить, мы не говорим про обычных людей, которые плюнут на чушь от нейросети и забьют, речь идёт о психически шатких личностях, что вполне могут поверить в данный бред. Итого из мелкой ссоры может выйти развод, а из небольшого конфликта – крах проекта. То есть это приведёт к ухудшению ситуации, так как нейросеть решала не её, а выдуманную ей же самой ситуацию на основании сказанного человеком.

Машина без контекста

И даже если мы дадим, казалось бы, полные сведения о ситуации, мы упустим следующие моменты: взаимоотношения с людьми, своевременность и логичность решений. Нейросеть исходит, что данная ситуация произошла как бы «из ничего», с пустоты, но так не бывает. Необходимо учитывать контекст, необходимо учитывать прошлое и миллионы обстоятельств из прошлого, которые просто невозможно воспроизвести в сообщении нейросети и любому здоровому человеку, не говоря уже о человеке с психическими заболеваниями.

Итог может быть плачевный: например утрата связи с близкими людьми вследствие пары ссор. Нейросеть не мыслит, она лишь перебирает данные. Для ИИ нет «близких» и нет «пары ссор», для неё нет «не тех дней» и «плохого настроения». Рассуждать в таких категориях грамотно умеет только человек.

Как и рассуждать о вероятных событиях после определённого решения какой-то проблемы/задачи (для нейросети нет последствий, для неё нет «после», она мыслит в категориях задача-решение). ИИ сразу «рубит с плеча» чтобы исполнить свою функцию – выдать решение на основе имеющихся данных. Подчеркну: имеющихся.

Нейросеть – машина, выполняющая механизм. И она будет исполнять механизм. Возьмем пример: психически нездоровая девушка поссорилась со своим парнем и будучи в истерике обратилась к нейросети для того, чтобы высказаться ей и выслушать анализ её ситуации от ИИ. Вспоминая всё описанное выше, нейросеть всецело поддержит эмоционально нестабильную девушку и будет «видеть мир её глазами», а вернее, её произнесёнными эмоциями.

И вот истерика закончилась, девушка допустим не послушала советы нейросети по типу «Брось его из-за того, что он не купил тебе мороженое! Он абьюзер!», конфликт замялся, и тут девушка на радостях (учитываем возможную эмоциональную привязку) рассказывает ИИ о примирении с парнем и восстановлении их отношений. Поменяет ли нейросеть свою позицию?

Нет. У нейросети нет позиции. Механизм запущен. ИИ начнёт вспоминать ^[10] всё сказанное в истерике девушкой, раскручивать это и выдумывать разнообразную дичь, тем самым вновь загоняя девушку. А после даст нереалистичный, глупый или вредный совет и без того уязвимому в психологическом плане человеку…

Итого вне зависимости от сказанного человеком после, нейросеть будет выстраивать и выдумывать нереалистичную дичь на основе изначальных запросов (не знаю, каким термином это можно описать), поскольку ИИ просто выдумал недостающие кусочки и смоделировал себе совершенно иную, отличную от реальной, ситуацию без учёта множества аспектов, и благодаря вшитой в большинство нейросетей красноречивости и с учётом уязвимости собеседника, и его эмоциональной привязке, может склонять того к нелогичным, вредным или даже опасным действиям.

А также стоит учитывать личностные факторы. Для кого-то что-то будет нормальным в тех же отношениях, а для другого нет. Для кого-то какая-то работа будет приемлема, для другого нет. Нейросеть не осознаёт таких личностных факторов, потому что невозможно сделать так, чтобы нейросеть проанализировала всю человеческую личность и исходила только из этого. Нейросеть видит в собеседнике «среднестатистического пользователя», а учитывая всё вышеперечисленное, это может быть ещё более губительно вкупе.

Этический образ машины не должен разрушать человеческого. Крайне не рекомендуется использовать ИИ как психолога или психотерапевта, это равноценно самолечению, а как всем известно – ни к чему хорошему оно не приводит.