小红书升级AI内容监管：未标识将限流严打伪名人乱象

17 小时前 AI快讯 5

2月16日，小红书官方账号“薯管家”发布重磅监管公告，针对AI生成及合成内容提出明确标识要求，并剑指近期高发的AI伪造公众人物乱象。据平台透露，因相关违规内容举报量激增，此次新规将严格对标《人工智能生成合成内容标识办法》，升级AI检测系统，确立“主动标识为主、被动标识为辅”的监管逻辑，未主动履行标识义务的内容将直接面临限流等处罚。

近年来，AI生成内容在内容社区的占比持续上升，从AI绘制的美妆效果图到AI合成的生活vlog，这类内容凭借低成本、高创意的特性迅速吸引创作者涌入，但随之而来的合规问题也愈发突出。小红书此次公告透露，平台近期接到的违规举报中，近40%指向AI伪造公众人物内容——部分用户通过AI换脸、语音合成技术，生成明星“种草”产品、网红“分享生活”的虚假视频，甚至模仿公众人物发表不当言论，不仅误导普通用户消费决策，更侵犯了公众人物的肖像权与名誉权，对社区信任生态造成严重冲击。

根据新规，小红书要求所有AI生成及合成内容（涵盖图文、视频、音频等全品类），创作者必须在发布环节主动以清晰、易识别的方式进行标识，比如在标题前缀标注“AI生成”或在正文开头明确说明内容属性。对于未主动标识的内容，平台将通过升级后的AI检测系统进行识别，一经判定为AI生成，将自动为内容添加显眼的系统标识，同时限制其推荐流量，减少传播范围。针对AI伪造公众人物的违规行为，平台则采取“零容忍”态度：除直接删除违规内容外，情节严重的账号将面临7天至永久不等的封禁处罚，涉嫌违法的还将移交司法机关处理。

值得注意的是，此次新规并非小红书单独的平台行为，而是对国家监管要求的落地实践。2025年12月正式实施的《人工智能生成合成内容标识办法》明确规定，“任何组织和个人生成合成人工智能内容，应当进行标识，保障公众的知情权和选择权”。在此之前，抖音、微博等平台已陆续推出AI内容标识规则，但小红书此次将AI伪造名人作为专项治理方向，更贴合自身社区“真实种草”的核心定位。

中国传媒大学网络法研究所所长王四新指出，AI生成内容的标识问题是数字时代内容合规的核心环节，“用户有权知道自己看到的内容是真人创作还是AI生成，尤其是涉及公众人物的内容，伪造行为会直接破坏社会信任链条”。他认为，小红书的“主动标识为主、被动标识为辅”逻辑，既明确了创作者的主体责任，又通过技术手段补位监管，为内容平台的AI治理提供了可参考的范本。

对小红书创作者而言，新规意味着需要调整内容发布习惯，尤其是依赖AI工具生产内容的创作者，需在创作流程中加入“AI标识”环节；对平台来说，此次监管升级既是对用户信任的回应，也是在AI内容浪潮中守住社区底线的必要举措。随着AI生成内容的普及，内容平台的监管技术与规则迭代将持续加速，如何在鼓励AI创新与保障内容真实性之间找到平衡，将成为整个行业需要共同探索的课题。