打击AI生成低俗擦边内容 抖音今年已处置1.4万个违规账号

2026年3月16日，字节跳动旗下抖音平台公布AI生成低俗擦边内容专项治理进展：今年以来累计处置AI生成违规内容4.2万条，对1.4万个涉事账号采取禁言、封禁等梯次处罚，339个账号被无限期回收直播权限，1个涉案4人黑产团伙因涉嫌非法利用信息网络罪被依法刑事拘留，相关违法线索已同步移交公安机关。

此次专项治理瞄准的是近年快速扩散的AI内容黑产新玩法：不少违规者借助开源文生图、文生视频工具，批量生成高度逼真的美女肖像、带有性暗示的动态短视频，要么用作直播间封面获取自然流量，要么放在账号主页收藏夹诱导用户点击，最终将流量导向第三方色情平台、诈骗站点，形成完整的变现链路。

本次治理核心针对两类高发违规行为：一类是利用AI生成虚拟“美女”人设，批量发布低俗内容涨粉后引流变现；另一类是在直播间使用AI生成低俗封面、虚拟主播进行性暗示表演，诱导用户打赏或跳转站外。

截至目前，除1.4万个账号被采取禁言、封禁处罚外，还有8421个长期发布AI擦边内容的账号被降权、限制流量，339个屡次违规的账号被无限期收回直播权限。前述4人涉案团伙正是通过批量运营上百个AI虚拟人设账号引流，半年内牟利超过百万元，目前已被依法采取刑事强制措施。

随着AI生成内容技术门槛持续下探，普通人只需要输入简单的关键词，就能在几分钟内生成上百张符合要求的低俗图片，制作成本比传统人工拍摄下降90%以上，且不少内容经过微调后，和真人拍摄的内容差异极小，传统的审核模型很难精准识别。

此前包括社交平台、短视频平台在内的多个互联网产品，都曾出现过AI生成虚假人设诈骗、低俗引流的问题，但像抖音这样规模的集中专项整治，在国内行业尚属首次。

抖音相关负责人表示，后续平台会把AI生成内容专属识别模型纳入第一道审核防线，针对AI生成的人脸、虚拟场景做专门的特征提取，预计AI低俗内容的识别准确率将提升至98%以上。同时平台还会完善用户举报通道，用户标记的疑似AI低俗内容会进入优先审核队列，2小时内完成处置。

此外，抖音还会建立跨平台的黑产线索共享机制，将涉嫌违法的线索同步移交公安机关，从上游工具开发、中游账号运营、下游变现全链条打击AI内容黑产。随着AIGC技术的落地应用场景越来越广，如何在鼓励技术创新的同时守住内容安全的底线，已经成为整个互联网行业需要共同面对的命题。