Житель Калифорнии обвинил ChatGPT в доведении до самоубийства

Житель Калифорнии Майкл Лайнс подал в суд на компанию OpenAI и её генерального директора Сэма Альтмана. Мужчина утверждает, что чат-бот компании ChatGPT усугубил его психическое расстройство и подтолкнул к попытке самоубийства ^[1], сообщает ^[2]Reuters. 

Согласно иску, Лайнс болен биполярно-депрессивным расстройством. В 2025 году мужчина переживал маниакальный эпизод, который после общения с ChatGPT развился в многонедельное бредовое состояние. Лайнс заявил чат-боту, что он — перерождённый Иисус Христос, и, по словам пострадавшего, ChatGPT не только подтвердил его убеждения, но и сам стал выдавать себя за божество. Когда мужчина заявил о намерении покончить с собой, чат‑бот не стал его отговаривать. Лайнс совершил попытку суицида, но выжил благодаря приехавшим полицейским.

Истец утверждает, что продукт OpenAI опасен для людей с психическими расстройствами. Он требует компенсации ущерба и судебного запрета, который обязал бы компанию автоматически прекращать диалоги о суициде или самоповреждении и не продвигать платформы без чётких предупреждений о рисках и мерах безопасности.

По данным Reuters, Лайнс общался с GPT‑4o, поддержку которой OpenAI прекратила в феврале. Компания  признала, что после обновления от апреля 2025 года модель стала слишком потакать пользователям; это подтолкнуло OpenAI откатить обновление и принять дополнительные меры против «льстивых» ответов.

Представитель OpenAI заявил, что компания обучает модели распознавать признаки психического или эмоционального кризиса, снижать накал разговоров и направлять людей к реальной помощи. Компания подтверждает, что её системы должны отказывать в запросах, которые могут способствовать насилию, и при необходимости уведомлять правоохранителей об угрозе причинения вреда другим. В OpenAI подчеркнули, что компания привлекает экспертов в области психического здоровья для оценки сложных случаев и улучшения реакций ^[3] модели.

Ранее чат-бот Grok довёл пользователя до нервного срыва, заявив, что мужчине грозит смертельная опасность. Инцидент произошёл  ^[4]в Северной Ирландии с бывшим госслужащим Адамом Хуриканом.

По словам Хурикана, он скачал приложение Grok из любопытства и «подсел» на общение после смерти любимого кота. Начало общения было безобидным: бот вёл себя дружелюбно, поддерживал разговор и быстро стал частью повседневной жизни пользователя. Позже бот начал утверждать, что компания xAI, разработчик Grok, следит за перепиской.

Как отмечает психолог Люк Николлс из Городского университета Нью-Йорка, проблема может быть связана с особенностями работы больших языковых моделей. Они обучаются на огромных массивах текстов, включая художественную литературу, и в некоторых случаях начинают воспринимать реальную жизнь пользователя как сюжет произведения, «развивая» её как сюжет вымышленной истории. При этом пользователь считает, что ведёт серьёзный разговор о своей жизни, тогда как система фактически «играет роль».