OpenAI отложила запуск «режима для взрослых» в ChatGPT из-за «секс-коучинга по суицидам»

OpenAI решила отложить ^[1] внедрение «режима для взрослых» в ChatGPT после того, как его раскритиковал консультативный совет экспертов по вопросам благополучия пользователей и искусственного интеллекта ^[2].

Этот режим глава компании Сэм Альтман анонсировал ^[3] в 2025 году. Функцию, которая позволила бы совершеннолетним пользователям общаться с ИИ на взрослые темы, намеревались внедрить в декабре, но запуск сначала перенесли на первый квартал 2026-го, а затем вновь отложили.

Ещё в январе консультанты OpenAI предупредили, что функция может привести к «развитию нездоровой эмоциональной зависимости пользователей от ChatGPT» и дать несовершеннолетним доступ к эротическим чатам. Один из них напомнил, что иногда пользователи ChatGPT устанавливали тесную связь с ботом, что приводило их к самоубийствам. Он даже допустил, что OpenAI рискует выпустить «сексуального коуча по суицидам».

Однако перенос релиза диктуется и техническими трудностями. Так, во время испытаний новая система определения возраста OpenAI ошибочно классифицировала несовершеннолетних как взрослых примерно в 12% случаев. Это означало, что миллионы пользователей младше 18 лет могли бы получить доступ к эротическому контенту. Кроме того, разработчики столкнулись с трудностями при попытке снять ограничения на эротику, параллельно запретив обсуждать насилие над детьми и другие «более экстремальные и табуированные темы».

Представитель OpenAI сообщил, что в планах компании запустить только переписки, а новые инструменты модерации и правила не допустят формирования «эксклюзивных отношений» между ИИ и пользователем.

В феврале OpenAI анонсировала ^[4] две новые функции безопасности для ChatGPT: Lockdown Mode (режим блокировки) и Elevated Risk labels (метки повышенного риска). Опции призваны бороться с угрозами внедрения вредоносных промптов. Lockdown Mode — это высокозащищённая мера реагирования ^[5] OpenAI. Он описывается как дополнительная настройка, предназначенная для относительно небольшой группы пользователей. Кроме того, некоторые возможности в ChatGPT, ChatGPT Atlas и Codex теперь будут иметь метку «Повышенный риск». С помощью неё OpenAI стремится информировать юзеров о том, что меняется при включении доступа к сети, какие риски могут возникнуть и когда такой доступ уместен.