В Китае хотят сделать чат-боты менее эмоциональными

Управление киберпространством Китая представило проект новых правил, направленных на регулирование антропоморфных сервисов искусственного интеллекта ^[1] (ИИ).

Основная цель инициативы – предотвратить негативное эмоциональное воздействие чат-ботов, которое может привести к нанесению пользователями вреда своему здоровью. Согласно документу, меры затронут ИИ-продукты, имитирующие человеческую личность и вступающие в эмоциональное взаимодействие через текст, изображения, аудио или видео. Об этом сообщает CNBC.

По словам адъюнкт-профессора юридического факультета Нью-Йоркского университета Уинстона Ма, данные правила станут первой в мире попыткой регулирования ИИ с человеческими чертами. Эксперт отмечает, что если нормы 2023 года касались в основном безопасности контента, то текущие предложения знаменуют переход к обеспечению эмоциональной безопасности. Общественное обсуждение проекта состоится до 25 января.

Законопроект устанавливает жесткие рамки для разработчиков ^[2]: чат-ботам запрещено генерировать контент, поощряющий членовредительство, а также использовать вербальное насилие или методы эмоциональных манипуляций, наносящие вред психическому здоровью.

В случае, если пользователь прямо заявит о намерении навредить себе, технологический провайдер обязан немедленно переключить диалог на живого оператора и связаться с опекуном или доверенным лицом клиента. Кроме того, под запрет попадает генерация контента, связанного с азартными играми, насилием и материалами непристойного характера.

Особое внимание ^[3] в документе уделяется защите несовершеннолетних. Для использования ИИ-компаньонов детям потребуется согласие родителей, а на время взаимодействия будут наложены строгие ограничения. Платформы должны будут уметь идентифицировать возраст пользователя даже без его прямого указания и применять защитные настройки по умолчанию в сомнительных случаях. Дополнительно правила обязывают сервисы напоминать пользователям о необходимости перерыва после двух часов непрерывного общения.

Чат-боты с аудиторией более миллиона зарегистрированных пользователей или 100 тысяч активных пользователей в месяц должны будут проходить обязательную государственную проверку безопасности.

Делегируйте часть рутинных задач вместе с BotHub! ^[4] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[5] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник ^[6]