Пообщавшись с ChatGPT, мужчина заменил соль на бромид натрия и заработал психоз

60-летний мужчина обратился ^[2] за советом по вопросам здоровья к ChatGPT, после чего он решил провести эксперимент: исключить из своего рациона весь хлор, в том числе поваренную соль (хлорид натрия). Разговоры с ChatGPT привели его к мысли, что он может заменить хлорид натрия бромидом натрия, что мужчина и сделал, пишет Ars Technica. Через три месяца мужчина обратился в местное отделение неотложной помощи.

По его словам, сосед пытался его отравить. Несмотря на сильную жажду, мужчина с опаской отнёсся к предложенной в больнице воде и сказал врачам, что пьёт только дистиллированную воду и строго придерживается вегетарианской диеты. Он не упомянул ни бромид натрия, ни общение с ChatGPT.

Врачи провели ряд лабораторных исследований. Первичное обследование показало, что у мужчины гиперхлоремия — повышенное содержание хлоридов в сыворотке крови, причиной которого могло быть обезвоживание. Но после дальнейших исследований вероятной причиной избытка хлоридов медики посчитали бромизм (хроническое отравление бромом). Позже у мужчины также выявили дефицит микроэлементов и ключевых витаминов.

Мужчину госпитализировали, и в первый день пребывания в больнице состояние пациента ухудшилось, у него наблюдались «усиливающаяся паранойя, слуховые и зрительные галлюцинации». Затем он попытался сбежать из больницы. После инцидента мужчину принудительно поместили в психиатрическую клинику и назначили ему антипсихотические препараты.

Для того, чтобы стабилизировать состояние, врачи вводили пациенту большое количество жидкости и электролитов. Уровень бромидов в организме мужчины составлял целых 1700 мг/л, в то время как нормой считается от 0,9 до 7,3 мг/л.

Когда самочувствие больного улучшилось, он рассказал, как всё произошло. По его словам, он прочитал о проблемах, связанных с избытком поваренной соли, и решил исключить из своего рациона хлорид натрия. Это привело его к ChatGPT, который натолкнул его на мысль, что вместо соли можно использовать бромид натрия. Это вещество — белый кристаллический порошок без запаха, тоже имеющий солёный вкус, — мужчина приобрёл в интернете. 

Пациент пробыл в стационаре три недели. Когда физическое и психическое состояние достаточно улучшилось, его выписали, предварительно снизив дозировку антипсихотических лекарств, а затем отменив их. При контрольном осмотре через две недели пациент оставался стабильным.

Врачи, которые описали этот клинический случай для журнала Annals of Internal Medicine: Clinical Cases ^[3], отмечают, что у них не было доступа к реальным запросам мужчины в ChatGPT и дословного ответа нейросети. Соли бромида действительно можно использовать вместо поваренной соли, но не для организма человека. Они используются в различных чистящих средствах и для обработки бассейнов.

Медики поговорили с ChatGPT 3.5, который упомянул бромид в ответах, но нейросеть отметила, что бромид подходит не для всех целей. Однако ИИ «не предоставил конкретных предупреждений о вреде для здоровья и не спросил, зачем нам это знать, как, по нашему мнению, сделал бы медицинский работник», — написали врачи.

100 лет назад около 8–10% всех случаев госпитализации в психиатрические клиники в США были связаны с бромизмом. Тогда люди принимали бромсодержащие седативные препараты. К сожалению, бромид может накапливаться в организме человека, и его избыток нарушает работу нервной системы ^[4].

Бромсодержащие седативные препараты исчезли с рынка США к 1989 году, после того как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов запретило их, пишет Ars Technica.