модерация.

Большая чистка: Spotify удалит сгенерированные треки из рекомендаций, а AI‑исполнители получат специальный тег

Spotify сообщила, что начнёт маркировать профили артистов, которые изображают несуществующих людей, созданных с помощью нейросетей. Такие исполнители получат тег AI Persona, а их музыка по умолчанию перестанет попадать в алгоритмические рекомендации и редакционные подборки. Нововведения начнут внедрять в сентябре.

продолжить чтение

Reddit представила новую систему модерации, которая снизит важность кармы

Reddit планирует обновить

продолжить чтение

Как получить пожизненный бан на VC.ru за open-source проект на Node.js без рекламы. Кейс CMTT

Вступление:Всем привет. На днях моя техническая статья с open source кодом про написание нейросети с нуля на Node.js вышла из песочницы Хабра благодаря НЛО, набрала 8К+ просмотров и получила крутой фидбек от ML-сообщества. Но за 2 дня до этого я решил провести эксперимент и выложить этот же open-source материал на VC.ru (выкладывал на Хабр, затем на VC), чтобы поделиться кодом с местными инженерами. Итог — моментальный пожизненный бан без объяснения причин в первые 15 минут и снос статьи.Ссылка на такую же статью на Хабре

продолжить чтение

Хороший, плохой, заблокированный: как работает модерация промтов в AI‑сервисах

продолжить чтение

Разбор Mimolet: что здесь удобно, а что стоит переделать

Mimolet выглядит как обычное приложение для знакомств с вертикальной лентой анкет. Но если пройти регистрацию и открыть несколько разделов, становится понятно, что одной лентой дело не ограничивается. Здесь есть подробные профили, нормальные чаты, публичные группы, встроенные звонки, ИИ-функции и отдельная система модерации.Часть решений мне понравилась. Некоторые показались лишними или недоработанными. Ниже разберу всё по порядку, без рейтинга из десяти баллов и попыток объявить приложение лучшим на рынке.Что будет в разбореРегистрация, анкеты и лента

продолжить чтение

Школьники создадут ML-модель для помощи модераторам цифровых платформ

продолжить чтение

Discord признала ошибочную блокировку пользователей ИИ из-за безобидных изображений

Discord заявила, что ошибка в системе модерации с использованием ИИ ошибочно заблокировала более 8000 пользователей за последние два месяца, пометив безобидные изображения — включая электронные таблицы, шахматные доски, игровые текстуры, а также белые и серые прозрачные фоны — как вредоносный контент.

продолжить чтение

Reddit использует большие языковые модели для решения проблем LLM

В Reddit разработали инструменты с использованием больших языковых моделей для борьбы со спамом, большая часть которого изначально создавалась с помощью LLM. По данным платформы, ежедневно они блокируют 23 млн спам-просмотров и отлавливают около 25 тысяч новых спам-сообщений и комментариев.

продолжить чтение

GLiNER Guard: один schema-driven энкодер вместо зоопарка LLM-гардрейлов

Эта статья - адаптация моего материала, опубликованного на Towards AI, и одновременно продолжение предыдущего поста про эволюцию GLiNER от UniNER до GLiNER 2. Там мы остановились на том, что унификация задач в одной энкодерной модели стоит точности в отдельных задачах, но даёт огромный инженерный выигрыш. Сегодня посмотрим, как тот же принцип применяется к гардрейлам в LLM-приложениях - и что из этого вышло.📄 Arxiv · 

продолжить чтение

Контент-модерация в ретроспективе: почему тексты 100-летней давности не проходят фильтры 2026 года

Дисклеймер: Статья не даёт правовой оценки историческим деятелям и событиям. Цель — показать, как изменились юридические и платформенные нормы в отношении публичных призывов. Все цитаты из архивных источников приведены исключительно в исследовательских целях.Дано: задача для ML-инженераПредставьте, вы обучаете большую языковую модель. В корпус данных попадает Полное собрание сочинений крупного политического автора начала XX века.Что будет, если модель начнёт генерировать текст в его стиле без пост-фильтров?

продолжить чтение

12