小红书升级AI内容监管 未主动标识将限流严打假名人

小红书升级AI内容监管 未主动标识将限流严打假名人

2026年2月16日，小红书官方管理账号“薯管家”发布重磅监管公告，针对站内AI生成及合成内容乱象出台明确规范。基于近期激增的用户举报——部分创作者利用AI技术伪造公众人物形象与视频，平台要求所有AI生成内容需主动标识，未履行义务将面临限流处罚，并将依据国家相关监管办法升级AI检测能力，以“主动标识为主、被动标识为辅”的双重逻辑强化内容真实性管控。

随着AIGC技术的快速普及，AI生成内容在小红书这类内容社区的占比持续攀升。从AI绘制的美妆效果图、虚拟穿搭场景，到AI合成的名人探店视频，技术降低创作门槛的同时，也催生了一系列乱象。小红书方面透露，近期平台接到的相关举报量环比上涨超过180%，其中最为突出的问题是部分用户通过AI换脸、语音合成等技术，伪造公众人物发布种草内容，不仅误导普通用户的消费决策，更涉嫌侵犯公众人物的肖像权与名誉权，对平台“真实种草”的核心生态造成冲击。

此次出台的新规，核心在于明确AI生成内容的“可识别性”底线。平台要求，所有由AI生成、合成的图文、视频、文字内容，创作者在发布环节必须主动标注，标识位置需醒目易见，确保用户能快速区分AI内容与真实创作。对于未主动履行标识义务的内容，小红书将启动“被动标识”机制：通过升级后的AI检测系统识别后，为内容添加统一的显眼标识，同时对该内容采取限流措施——包括降低推荐权重、减少曝光量，情节严重的账号还可能面临阶段性禁言处罚。

值得注意的是，此次新规并非平台单方面的自主管控，而是严格依据国家《人工智能生成合成内容标识办法》制定，属于对国家监管要求的落地细化。小红书方面表示，已联合技术服务商升级平台AI内容检测能力，依托华为云的多模态AI识别技术，可精准识别AI生成的图像、视频及文字内容，尤其是针对人脸合成、语音克隆等造假行为，检测准确率超过95%，能有效覆盖绝大多数AI造假场景。