Roblox начала цензурировать чаты с помощью ИИ

Игровая платформа Roblox начала использовать ^[1] искусственный интеллект ^[2] для перефразирования личных сообщений в режиме реального времени. Новая функция выходит за рамки существующей фильтрации запрещённых выражений, которая заменяет определённые слова и фразы символами #.

Теперь такие слова и фразы могут быть «переведены на более уважительный язык, который остаётся ближе к первоначальному замыслу пользователя». В частности, функция будет исключать грубые слова. При этом участники чата получат уведомление, что текст был изменён «для поддержания приличий».

Minecraft аналогичным образом фильтрует ^[3] нецензурную лексику в некоторых игровых чатах. Однако фильтр игры Mojang Studios только заменяет запрещённые слова символами и блокирует сообщения, содержащие их, а не перефразирует текст.

Новая функция в Roblox доступна только для чатов между игроками, которые прошли проверку возраста и находятся в похожих возрастных группах.

В прошлом месяце Roblox начала требовать проверку возраста для использования чата на своей платформе. После прохождения процедуры пользователь получает возможность общаться с игроками в похожих возрастных группах. Игровая платформа планирует ^[4] активнее расширять свою взрослую аудиторию. К концу января проверку возраста прошли 45% пользователей Roblox, из которых 27% оказались старше 18 лет.

С начала 2026 года пользователи начали получать ^[5] перманентный бан в Roblox за обход блокировок вне зависимости от возраста, репутации и вложенного времени.