2026年7月，海外社交论坛Reddit公开其AI治理最新进展，通过升级大语言模型（LLM）结合原有自动化工具，精准识别AI生成隐蔽垃圾内容、虚假炒作行为，目前日均拦截2300万条垃圾信息，用户接触垃圾内容总量下降20%，垃圾账号接触频率降低10%至15%，为全球内容平台治理AI生成黑产提供了可落地的实践样本。
生成式AI的普及在降低内容创作门槛的同时，也给内容平台的治理体系带来了前所未有的挑战。过去两年间，利用大语言模型批量生成的虚假评论、带节奏帖、刷量内容已经渗透到各大社交平台，这类内容高度拟真、逻辑通顺，传统的关键词拦截、人工抽检模式识别率极低，大量违规内容绕过监管流入社区。
作为全球知名的UGC社交论坛，Reddit的社区生态长期受垃圾内容侵扰，平台方从创立之初就搭建了自动化风险账号监控体系，但在AI生成垃圾内容爆发后，原有系统的短板逐渐凸显：大量黑产团队用LLM生成贴合社区语境的违规内容，甚至模拟普通用户的发言逻辑、发帖节奏进行炒作，传统规则根本无法识别。为了应对这一问题，Reddit耗时近半年对原有治理系统进行升级，核心就是引入专门训练的大语言模型，替代原有的规则匹配逻辑。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号