Character.AI запретит пользователям младше 18 лет переписываться с ИИ-персонажами

Компания Character.AI объявила ^[1] о новых мерах по обеспечению безопасности для пользователей-подростков. С 25 ноября 2025 года пользователи младше 18 лет больше не смогут ^[2] переписываться с ИИ-персонажами.

До того времени, как отключить чаты с ботами, для подростков будет установлен лимит общения с ИИ-персонажем — два часа в день. Чтобы поддерживать интерес ^[3] подростков к платформе, Character.AI запустит новые творческие функции, такие как создание видео, историй и стримов с ИИ-персонажами.

Компания будет проверять возраст пользователей с помощью специально разработанной ИИ-модели. Она будет интегрирована с другими инструментами, такими как Persona, чтобы гарантировать пользователям доступ только к тем функциям Character.AI, которые соответствуют их возрасту.

Ещё одна мера, которую предпринимает Character.AI, — создание AI Safety Lab. Как объясняет компания, это «независимая некоммерческая организация, которая будет заниматься внедрением инноваций в области безопасности для развлекательных функций ИИ следующего поколения».

Компания Character.AI принесла извинения ^[1] своим пользователям-подросткам, чаты для которых станут закрыты, признав, что это серьёзное изменение. Несмотря на это, компания заявила, что считает такой шаг правильным.

Решение компании ограничить взаимодействие молодых пользователей с ботами было принято на фоне критики в адрес приложения. В 2024 году стало известно о самоубийстве ^[4] подростка, который много, в том числе до момента смерти, общался ^[5] с персонажем Character.AI. Также в 2024 году компания столкнулась ^[6] с иском от родителей двух несовершеннолетних пользователей. Истцы заявляли, что чат-бот компании показывал их детям непристойный контент и писал сомнительные сообщения, включая описание селфхарма и намёки на убийство родителей.