Reddit внедряет искусственного интеллекта в систему модерации: правила нового сообщества
Социальная платформа Reddit анонсировала запуск платформы «Rules Hub», которая позволит модераторам автоматически настраивать применение правил сообществ с помощью языковых моделей. Инструмент предназначен для новой волны пользователей и планирует постепенно вытеснить текущий механизм Automod, который полагается на простое совпадение ключевых слов.
# Reddit внедряет искусственного интеллекта в систему модерации: правила нового сообщества
Компания Reddit намерена кардинально изменить подход к управлению сообществом, представив новый модуль инструментов для модераторов. Находящийся в стадии бета-тестирования продукт «Rules Hub» (Центр правил) позволит модераторам делегировать часть рутинных задач искусственному интеллекту, который будет анализировать соответствие контента заложенным в сообщество нормам.
От совпадения ключевых слов к пониманию контекста
Существующий инструмент Automoderator (обычно называемый Automod) годами служил основным средством автоматической фильтрации. Однако его возможности ограничены логикой регулярных выражений: он реагирует только на точное совпадение определенных слов или паттернов. Это часто приводило к ложным срабатываниям или пропуску скрытых нарушений.
В отличие от предшественника, новая система основана на больших языковых моделях (Large Language Models, LLM). По данным Reddit, эти модели способны оценивать, «соответствует ли пост или комментарий намерению правила». Такая архитектура позволяет системе учитывать нюансы естественного языка, контекст общения и сложные граничные ситуации, не утратя при этом контроля со стороны человека. Как заявляют разработчики, это дает модераторам возможность лучше защищать сообщества от спама и токсичности, не вмешиваясь вручную в каждый спорный случай.
*Упрощенное пояснение:* Представьте, что старый инструмент — это фильтр для мусора, который ловит только банки с этикетками определенного размера. Новый инструмент работает как дословный контролер, который понимает, что «это мусор» означает не только название предмета, но и его суть, независимо от того, в какой банке он упакован.
Масштабирование и будущее текущих инструментов
Тестирование новой платформы прошло на более чем 700 существующих сообществах при участии модераторов-новичков и опытных участников Модераторского совета Reddit. На данный момент «Rules Hub» будет доступен в обязательном порядке для всех новых сообществ, которые будут созданы в ближайшее время. По словам официального представителя компании Розы Ким (Rosa Kim), использование инструмента для новых сообществ будет добровольным, но акцент смещается именно на автоматизацию.
Reddit указывает на долгосрочную цель: система «Rules Hub», вкупе с другими новыми функциями, такими как «Post & Comment Guidance» (Указание в постах и комментариях) и «Safety Filters» (Фильтры безопасности), в перспективе заменит многие рабочие процессы, на которые сейчас опираются инструменты Automod. Скорее всего, функция автоматического принуждения к выполнению правил от Automod будет отключена или перенаправлена на новую экосистему.
Экосистема разработчиков и борьба с кражей контента
Развертывание AI-инструментов для модерации — лишь один из анонсов, сделанных платформой на прошлой неделе. Параллельно Reddit объявила о планах реформировать работу с сторонними приложениями. Компания намерена перенаправить разработчиков, использующих открытые API, на собственную платформу разработчиков (Developer Platform). Целью является создание контролируемой среды, где поддерживаются проверенные алгоритмы, и обеспечение единообразного соблюдения политик платформы.
Следует отметить, что ограничения доступа к данным будут распространяться на все сторонние приложения, за исключением тех, на которые явноGranted исключения. Этот шаг следует за предыдущими конфликтами 2023 года, когда новые правила API вызвали широкий общественный резонанс и привели к закрытию популярных мобильных клиентов.
Также было подтверждено, что изменения коснутся классического интерфейса «Old Reddit». В рамках борьбы с несанкционированным скрапингом контента (сбором данных для обучения ИИ) и блокировкой результатов поиска в бесплатных поисковых системах, доступ к старому интерфейсу в краткосрочной перспективе будет ограничен только для зарегистрированных пользователей. Критические боты и рабочие процессы модерации будут постепенно мигрировать на новые системы. Как заявил представитель Reddit, компания изучает различные варианты развития событий, чтобы защитить интеллектуальную собственность сообщества от коммерческих извлечения данных без оплаты.