2026年3月4日,社交媒体平台X(原Twitter)宣布针对AI生成内容出台专项监管新规:发布涉及武装冲突且未明确标注的AI生成视频的创作者,首次违规将被取消90天收益分成资格,再次违规则永久禁止参与分成计划。X产品负责人尼基塔·比尔表示,战争时期真实信息至关重要,平台将结合AI检测工具与Community Notes社区注释系统协同治理,修正此前收益分成计划的管控漏洞。
3月4日对外公布的这一监管新规,并非X平台针对AI生成内容的泛化要求,而是首次将监管锚点锁定武装冲突场景——这一精准指向,直指当前全球热点冲突区域内AI生成虚假战场信息的泛滥风险。
根据新规,所有涉及武装冲突的视频内容,若未以清晰方式标注为AI生成,均将触发处罚机制。首次违规的创作者将被暂停90天的创作者收益分成资格,再次违规则会被永久取消参与分成计划的权限。X平台产品负责人尼基塔·比尔在配套说明中强调,在巴以、俄乌等全球热点冲突时期,战场信息的真实性直接影响公众认知与国际舆论走向,而生成式AI大幅降低了误导性内容的制作门槛,平台必须主动介入遏制风险。
为避免一刀切的误判,X平台将采用生成式AI检测工具+Community Notes社区注释的协同治理模式:首先通过AI检测工具快速筛查疑似未标注的AI生成冲突视频,再由X的用户众包核查系统Community Notes完成最终的事实验证与标注确认,既提升了审核效率,也借助群体智慧减少了单一算法的误判概率。Community Notes作为X的老牌核查机制,此前已在全球范围内帮助用户识别虚假信息、补充内容背景,此次与AI检测工具的结合,让监管覆盖范围与精准度进一步提升。
此次新规的出台,也被业内视为X平台修正创作者收益分成计划副作用的关键举措。此前该计划因鼓励创作者产出高流量、煽动情绪的内容而饱受争议,宽松的审核机制导致大量未标注的虚假信息、AI生成内容泛滥,而冲突场景下的违规内容则可能引发更严重的舆论误导与社会恐慌。新规将合规性与收益绑定,倒逼创作者主动遵守标注规则,从源头减少不良内容的产出。
这一专项新规的出台,或将推动全球社交平台的AI内容监管从通用化转向场景化。针对高风险领域的专项监管,将成为后续平台治理的重要方向。不过,这一模式也面临待解的挑战:如何在海量全球内容中精准识别冲突场景的AI视频,避免过度拦截合法的战地纪实创作?如何平衡监管力度与创作者的创作自由?这些都将是X平台后续需要持续优化的方向。
本文基于公开信息分析整理,仅供参考。更多AI工具动态与行业解读,请持续关注本站更新。