Китай ограничивает возможности чат-ботов с ИИ влиять на эмоции людей

Управление по вопросам киберпространства КНР предложило ^[1] проект закона, который должен ограничить значительное влияние чат-ботов с искусственным интеллектом ^[2] на эмоции ^[3] пользователей посредством текста, изображений, аудио и видео. Положение направлено против сервисов, доступных на территории Китая, поскольку их использование потенциально может подтолкнуть пользователей к самоубийству или членовредительству.

Законопроект предлагает запретить чат-ботам создавать контент, поощряющий самоубийство ^[4] или членовредительство, а также использовать оскорбления и эмоциональные манипуляции. Кроме того, такие инструменты не должны создавать контент, связанный с азартными играми и насилием.

Несовершеннолетним потребуется согласие родителей или опекунов для использования ИИ в целях эмоционального сопровождения.

Одной из необычных мер положения стало требование, чтобы компании-разработчики ИИ обеспечивали вмешательство человека в диалог и немедленно связывались с опекуном пользователя или назначенным контактным лицом при обнаружении суицидальных намерений. Учитывая большое число пользователей чат-ботов в Китае и вероятность ошибок в любой системе, это требование может оказаться сложным в реализации.

Проект закона также включает в себя ряд других требований. Разработчиков ИИ обяжут напоминать пользователям, что они непрерывно используют чат-бот в течение двух часов. Также операторы ИИ-систем должны будут иметь возможность определять, что пользователь достиг совершеннолетия.