AI技术落地内容治理 抖音双周清退4114个涉未成年违规账号

3月23日抖音公开未成年网络内容保护最新治理进展，依托升级后的多模态AI内容审核体系，平台近两周累计清理涉未成年低俗、软色情等不良内容10.2万条，对4114个违规账号采取禁言、封禁等阶梯处罚，相关违规内容AI检出率较去年同期提升42%，进一步筑牢未成年网络使用安全屏障。

此次抖音公布的治理清单中，违规内容主要集中在三类场景：一是刻意拍摄未成年人低俗动作的擦边内容，二是面向未成年群体传递不良价值观的剧情演绎，三是假借兴趣班、交友名义向未成年用户引流的隐性违规内容，这类内容普遍存在表述隐晦、特征模糊的特点，此前一直是内容审核的难点。

据CNNIC2024年发布的《中国未成年人互联网运用报告》显示，我国未成年网民规模已突破1.93亿，其中短视频用户占比达68.7%，日均使用短视频时长超过40分钟。与之相对的是，主流短视频平台日均新增内容量已突破3亿条，传统人工审核模式单条内容响应时长约为12秒，涉隐晦违规内容的漏检率最高可达18%，无论是效率还是精度都已经无法匹配当下的内容治理需求。

为解决这一痛点，抖音安全团队专项训练了未成年内容保护多模态审核大模型，针对涉未成年不良内容的画面特征、语音暗示、文本语境等多维度数据进行交叉核验，不仅能识别明显的违规内容，还能捕捉“软色情”“不良引导”等隐性违规信号。

官方数据显示，这套AI系统的涉未成年违规内容检出率较去年提升42%，单条内容审核响应速度压缩至0.2秒，审核效率较人工模式提升7倍。此次双周清理的10.2万条违规内容中，92%由AI系统主动识别预警，后续经过人工复核确认后处置，而被处罚的4114个账号中，超过8成为多次违规的惯犯，平台已对其采取永久封禁措施。

值得注意的是，AI内容审核目前仍存在标准不统一的问题，不同平台对涉未成年隐性违规内容的判定尺度存在差异，也偶尔会出现AI误判正常内容的情况。

多位互联网治理领域的专家表示，未来全行业有望统一涉未成年内容的AI审核训练数据集，明确技术准入门槛，同时建立“AI初筛+人工复核”的双重机制，在提升治理效率的同时，最大限度降低误判概率，为未成年网民构建更安全的网络环境。