Sony Interactive Entertainment подала заявку на патент системы автоматического обнаружения опасных пользователей в сетевых сервисах экосистемы PlayStation. Система на базе искусственного интеллекта должна защитить геймеров от мошенников, потенциальных педофилов, спамеров, читеров и других людей со злыми намерениями.
Из патента следует, что система будет использовать псевдоаккаунты, создаваемые для имитации потенциальных жертв и их поведения в переписке. При этом такие учётные записи будут выглядеть легитимными. Псевдоаккаунты смогут имитировать поведение несовершеннолетних. После взаимодействия с таким профилем система может пометить антисоциальный аккаунт как подозрительный. Если злоумышленник предпримет первую попытку связаться с легитимной учётной записью, то система может сообщить об этом, прежде чем состоится нежелательное общение.
Псевдоаккаунтом может управлять большая языковая модель, например, генеративный предварительно обученный трансформер (GPT).
Цель этого патента не обязательно состоит в том, чтобы кого‑то наказывать только за общение. Система будет использовать это взаимодействие как один из сигналов о том, что учётная запись может быть опасной, а затем предупреждать и защищать реальных игроков, когда антисоциальный аккаунт попытается начать общение с ними.
Обычно игровым компаниям приходится ждать, пока кто‑нибудь сообщит о подозрительном игроке, чтобы начать расследование. Патент предусматривает маркировку опасных пользователей, чтобы предупреждать о них при попытке взаимодействия с детьми. Система предназначена для анализа общения человека с ИИ.
К подозрительному поведению относятся запрос личной информации, попытки взаимодействия с несовершеннолетними, отправка неприличных сообщений, обман и спам. Патентуемая система не заблокирует аккаунт немедленно, а продолжит наблюдать за ним и отслеживать его состояние.
В июне Sony запатентовала технологию адаптивных кнопок для игрового контроллера, элементы управления которого изготовлены из магниточувствительных композитных материалов и меняют жёсткость в зависимости от силы магнитного поля. За месяц до этого японская компания зарегистрировала патент на новую функцию, которая превратит загрузочные экраны консолей PlayStation в ленту с рекламой и ИИ‑видео.
Автор: Travis_Macrif
