Родительский контроль ChatGPT будет сообщать взрослым, если подросток испытывает стресс

В следующем месяце OpenAI начнёт внедрять родительский контроль в ChatGPT, написала компания в посте в блоге ^[1]. Также компания будет сотрудничать с Экспертным советом по благополучию и искусственному интеллекту ^[2] и расширит Глобальную сеть врачей.

В течение следующего месяца родители смогут:

• Связать свою учётную запись с аккаунтом подростка (возраст от 13 лет) с помощью простого приглашения по электронной почте.

• Контролировать, как ChatGPT реагирует на запросы подростка, с помощью правил поведения ^[3] модели, соответствующих возрасту.

• Выбирать, какие функции отключить, в том числе историю памяти ^[4] и чата.

• Получать уведомления, когда система обнаружит, что ребёнок находится в состоянии острого стресса ^[5].

Эти элементы управления дополняют функции, которые OpenAI внедрила для всех пользователей, включая напоминания ^[6] о перерывах во время длительных сеансов.

OpenAI объявила ^[1] о сотрудничестве с Экспертным советом по благополучию и искусственному интеллекту, который поможет ей оценивать благополучие пользователей и направлять развитие продукта. Этот совет будет работать в тандеме с Глобальной сетью врачей, в которую входят более 250 медиков. 

«Из этого обширного сообщества более 90 врачей из 30 стран, включая психиатров, педиатров и врачей общей практики, уже внесли свой вклад в наше исследование того, как наши модели должны работать в контексте психического здоровья. Их вклад напрямую влияет на наши исследования в области безопасности, обучение ^[7] моделей и другие мероприятия, помогая нам при необходимости быстро привлекать нужных специалистов», — пишет ^[1] компания.

Непосредственно в ChatGPT улучшится система маршрутизации, которая будет автоматически перенаправлять тему, содержащую признаки «острого расстройства» в GPT‑5-thinking, чтобы бот мог генерировать более продуманные ответы.

Изменения произошли после смерти подростка и недавнего судебного разбирательства ^[8]против OpenAI и генерального директора Сэма Альтмана.