Управление киберпространством Китая представило проект новых правил, направленных на регулирование антропоморфных сервисов искусственного интеллекта (ИИ).
Основная цель инициативы – предотвратить негативное эмоциональное воздействие чат-ботов, которое может привести к нанесению пользователями вреда своему здоровью. Согласно документу, меры затронут ИИ-продукты, имитирующие человеческую личность и вступающие в эмоциональное взаимодействие через текст, изображения, аудио или видео. Об этом сообщает CNBC.
По словам адъюнкт-профессора юридического факультета Нью-Йоркского университета Уинстона Ма, данные правила станут первой в мире попыткой регулирования ИИ с человеческими чертами. Эксперт отмечает, что если нормы 2023 года касались в основном безопасности контента, то текущие предложения знаменуют переход к обеспечению эмоциональной безопасности. Общественное обсуждение проекта состоится до 25 января.
Законопроект устанавливает жесткие рамки для разработчиков: чат-ботам запрещено генерировать контент, поощряющий членовредительство, а также использовать вербальное насилие или методы эмоциональных манипуляций, наносящие вред психическому здоровью.
В случае, если пользователь прямо заявит о намерении навредить себе, технологический провайдер обязан немедленно переключить диалог на живого оператора и связаться с опекуном или доверенным лицом клиента. Кроме того, под запрет попадает генерация контента, связанного с азартными играми, насилием и материалами непристойного характера.
Особое внимание в документе уделяется защите несовершеннолетних. Для использования ИИ-компаньонов детям потребуется согласие родителей, а на время взаимодействия будут наложены строгие ограничения. Платформы должны будут уметь идентифицировать возраст пользователя даже без его прямого указания и применять защитные настройки по умолчанию в сомнительных случаях. Дополнительно правила обязывают сервисы напоминать пользователям о необходимости перерыва после двух часов непрерывного общения.
Чат-боты с аудиторией более миллиона зарегистрированных пользователей или 100 тысяч активных пользователей в месяц должны будут проходить обязательную государственную проверку безопасности.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Автор: MrRjxrby
