近日，海外社区平台Discord公开证实，其部署的AI内容审核系统存在程序漏洞，过去两个月内累计错误封禁超8000名正常使用平台的用户，误封触发原因多为系统将用户上传的无害图片判定为违规内容。此次事件也再次引发行业对AI内容审核落地可靠性、边界判定标准等问题的集中讨论。
本次事件的曝光源于近两周大量Discord用户在海外社交平台集中申诉：不少用户并未发布任何违规内容，却突然收到平台的永久封禁通知，甚至部分订阅了平台高级会员服务Nitro的付费用户也未能幸免，Discord官方客服渠道一度被申诉请求挤爆，平台技术团队经过多日排查后才最终定位到AI审核系统的漏洞。
随着UGC内容规模的指数级增长，全球主流社交、社区平台普遍引入AI审核系统替代部分人工审核环节，以此降低合规成本、提升响应速度。行业调研数据显示，AI审核的单位内容处理成本仅为人工审核的1/5到1/8，内容违规判定的响应速度可提升90%以上，仅2025年全球内容类平台的AI审核工具采购规模就突破了70亿美元。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号