Reddit внедрил Rules Hub для борьбы со спамом

Reddit внедряет rules hub — умную модерацию на базе llm для борьбы со спамом

Раньше в сервисе работал Automod, который искал лишь конкретные слова и шаблоны. Rules Hub действует иначе: он анализирует смысл и цель правила. Благодаря этому система лучше понимает живую речь и распознает сложные нюансы общения, которые раньше ускользали от простых фильтров.

Упрощение работы модераторов

Новый инструмент избавляет администраторов от необходимости настраивать каждый фильтр вручную. Это помогает эффективнее очищать площадку от бот-спама и AI-мусора, чтобы Reddit оставался пространством для реального общения людей.

Проблема точности и контекста

Главный минус системы — ошибки в узких темах, где AI часто путает контекст. Например, нейросеть может принять текст песни за реальную угрозу. Такие ложные срабатывания приводят к тому, что полезный контент удаляется по ошибке.

Подобные изменения вызывают опасения за будущее интернета:

• Риск «замкнутого цикла»: AI-боты создают контент, а другие AI-алгоритмы его удаляют.
• Неопределенность того, останется ли сеть полезной и достоверной через 5–10 лет.

Ранее по теме
Meta AI стал автономным — промпты не нужны

Больше новостей в нашем Телеграм. Подпишись!

Ссылка на источник тык.