В Reddit разработали инструменты с использованием больших языковых моделей для борьбы со спамом, большая часть которого изначально создавалась с помощью LLM. По данным платформы, ежедневно они блокируют 23 млн спам-просмотров и отлавливают около 25 тысяч новых спам-сообщений и комментариев.
Сейчас злоумышленникам проще, чем когда-либо, распространять спам в интернете, поскольку мощные LLM становятся легкодоступными. При этом социальные платформы годами создавали автоматизированные инструменты для борьбы со спамом, но Reddit утверждает, что их новинка работает с большей эффективностью.
«Мы используем LLM для выявления крайне тонких, скоординированных моделей фейкового поведения и искусственного ажиотажа, которые раньше упускали старые системы», — говорится в сообщении в блоге компании. Она утверждает, что с января по март сократила количество спама, попадающего к пользователям, на 20% по сравнению с предыдущими тремя месяцами.
Также отмечается, что более быстрые и масштабные меры по пресечению нарушений помогли снизить риск распространения потенциально опасного контента более чем на 40%, а количество ложных срабатываний систем модерации снизилось на аналогичный показатель.
Эксперты говорят, что оперативное выявление ИИ-публикаций ускоряет блокировку неприемлемого контента, но для достижения максимальной эффективности нужно использовать комбинированный подход с участием людей.
Ранее стало известно, что Reddit начнёт требовать от пользователей авторизации для использования old.reddit.com. Новое требование вступит в силу в течение следующего месяца. Меру вводят для борьбы со злонамеренным сбором данных и автоматизированным трафиком на платформе.
Автор: maybe_elf
