На Авито весь контент проходит модерацию. Ежедневно проверяется более 20 млн версий объявлений. В 95% случаев решения принимает автоматизированная система без участия человека. Модерацией занимается кросс-функциональный юнит: продуктовые менеджеры, Data Science инженеры, разработчики и аналитики.
Как устроена модерация
- Pipeline модерации — система, обрабатывающая задачи и применяющая действия, с высокой пропускной способностью.
- Автомодерация — 200+ моделей, сгруппированных по сервисам, плюс инфраструктура для обработки зависимостей и выдачи решений.
- Ручная модерация — интерфейсы для модераторов, где решения принимаются по регламентам.
- Проверка пользователей — системы, реагирующие на подозрительные действия и предоставляющие модераторам релевантные данные.
- Платформа модерации — внутренний сервис для модерации контента по запросу.
С увеличением объёмов контента наша цель — повысить уровень автоматизации при минимальном числе ошибок.
