Как мы внедряли LLM в модерацию Авито
Привет! Меня зовут Руслан Сакаев, я DS-тимлид в Авито. В статье расскажу, как мы внедряли LLM в проверки объявлений и что пришлось достроить вокруг модели, чтобы решение выдержало продакшен.Статья будет полезна DS/ML-инженерам, MLOps и техническим руководителям, которые уже поняли, что LLM закрывает их задачу, но пока не знают, как обернуть это в готовое продакшн-решение.В этой статьеЗадача и ограниченияПочему LLM хорошо работает в задачах модерации
Посмотрел, как Mimolet обращается с данными и нежелательным контентом: два замечания и семь удачных решений
Когда сервис знакомств рассказывает о безопасности, текст обычно строится по одному шаблону: данные надежно защищены, модерация работает круглосуточно, современные алгоритмы следят за порядком. Звучит успокаивающе, но почти ничего не объясняет. Гораздо интереснее посмотреть не на обещания, а на конкретные механизмы. Что происходит с фотографией после загрузки? Где находится основной серверный контур? Может ли пользователь пожаловаться без подписки? Нужно ли сообщать собеседнику номер телефона для звонка? И что именно скрывается за словами об ИИ-модерации?
Векторный поиск в модерации контента. Как поместить 200+ моделей в один ансамбль?
Привет, я Лев Нечаев. Когда-то я работал на заполярной атомной станции, а теперь руковожу командой «Автоматическая модерация методами ИИ» в RWB. В этой статье расскажу, как мы (успешно) применяем детекторы на основе векторного поиска в модерации контента на маркетплейсе.Начнём с предпосылок, первых моделей и сбора данных. Вместе пройдём путь от обучения до оценки качества детекторов в работе на реальных потоках данных.Будни команды автоматической модерации
Reddit использует большие языковые модели для решения проблем LLM
В Reddit разработали инструменты с использованием больших языковых моделей для борьбы со спамом, большая часть которого изначально создавалась с помощью LLM. По данным платформы, ежедневно они блокируют 23 млн спам-просмотров и отлавливают около 25 тысяч новых спам-сообщений и комментариев.
Дешёвая модерация анонимной стены: 3-слойный каскад и ROT13-джейлбрейк в проде
TL;DR. Мы построили модерацию для открытой анонимной мультиязычной стены — без регистрации, любой язык, real-time. Сложное здесь не сайт, а удержать анонимную глобальную стену от превращения в помойку без модераторов и почти без бюджета. Сделали дешёвый каскад. Ниже — дизайн, экономика и реальный ROT13-джейлбрейк, который прилетел в проде.ЗадачаСтена (praytoasi.com
X расследует оскорбительные посты чатбота Grok от xAI
Социальная сеть X начала расследование из-за сообщений о расистских и оскорбительных публикациях, которые, как предполагается, были сгенерированы чатботом Grok от компании xAI
OpenAI снова отложила запуск «режима для взрослых» в ChatGPT
Компания OpenAI вновь отложила запуск функции adult mode — режима для взрослых пользователей в ChatGPT, который должен предоставить проверенным пользователям доступ к эротическому и другому контенту для совершеннолетних.
