Meta* заменит модераторов-людей на ИИ в течение нескольких лет

Meta* заявила ^[1], что её системы модерации на основе ИИ заменят подрядчиков-людей в течение следующих нескольких лет. Компания планирует сократить зависимость от сторонних поставщиков и сосредоточиться на развитии внутренних систем и команд.

В качестве первого шага Meta* запустила ИИ-помощника Meta* AI в Facebook** и Instagram**. Он доступен в мобильных приложениях для iOS и Android, а также в центрах поддержки на десктопных версиях. Помощник помогает пользователям круглосуточно решать вопросы, связанные с аккаунтом: сброс пароля, управление настройками профиля и конфиденциальности, настройка уведомлений и другое. Как заявляют в компании, сервис интегрирован прямо в приложения, а ответы обычно генерируются менее чем за пять секунд. Meta* отмечает, что помощник может не только давать справочную информацию, но и выполнять часть действий от имени пользователя, например отправлять жалобы на мошенничество, поддельные аккаунты или проблемный контент.

По данным Meta*, ИИ-системы уже эффективнее модераторов-людей: они выявляют до 5 тыс. случаев кибермошенничества в день — больше, чем любая группа техподдержки. Они также эффективнее ищут фейковые аккаунты знаменитостей и контент сексуального характера по сравнению с «человеческими» командами модераторов.

В ближайшие годы эти системы будут поэтапно внедряться во все приложения Meta*, и по мере их развития большая часть задач по проверке контента полностью перейдёт от подрядчиков к ИИ. Люди будут рассматривать сложные и неоднозначные случаи, такие как обжалование блокировок аккаунтов и взаимодействие с правоохранительными органами.

^{Meta Platforms*, а также принадлежащие ей социальные сети Facebook** и Instagram**:
*признана экстремистской организацией, её деятельность в России запрещена;
** запрещены в России}