YouTube全面升级AI生成内容标注体系 多维度补全平台内容监管短板

近期全球头部视频平台YouTube宣布对现有AI生成内容标注机制进行全面升级，新规则覆盖深度伪造人脸、AI合成声音、虚构场景等多类生成式内容，要求创作者主动标注相关内容，未按要求披露的创作者将面临内容下架、收益扣除等处罚，同时平台上线AI自动识别工具辅助标注，预计2024年底前覆盖90%以上的高风险AI生成内容。

2024年以来，随着OpenAI Sora、Google Gemini、MidJourney等生成式AI工具的使用门槛持续下探，普通用户制作一支以假乱真的AI合成视频的成本已经不足10美元，耗时最快仅需15分钟。来自第三方机构的监测数据显示，今年第二季度YouTube平台上的AI生成内容投稿量同比上涨327%，其中近21%的内容未做任何生成式标识，已经引发多起虚假信息传播事件。

不少公众人物都曾遭遇AI伪造视频的困扰：此前有AI合成的美国政客虚假发言视频在YouTube传播量破千万，还有娱乐明星的AI合成换脸视频被用于不良内容引流，平台此前的模糊标注规则已经难以适配当下的内容监管需求。

此次YouTube推出的新标注规则，首先明确了8类必须强制标注的AI内容场景，包括使用AI生成的公众人物公开发言、合成的灾害/事故等公共事件画面、模仿自然人声的配音内容、虚构的历史事件还原场景等。创作者上传内容时如果未主动勾选对应标注选项，平台预审核系统会第一时间弹出提醒，多次拒不标注的创作者会被扣除内容收益，情节严重的还会被限制投稿权限。