小红书升级AI内容监管 未主动标识将限流严打假名人

小红书升级AI内容监管 未主动标识将限流严打假名人

2026年2月16日，小红书官方管理账号“薯管家”发布重磅监管公告，针对站内AI生成及合成内容乱象出台明确规范。基于近期激增的用户举报——部分创作者利用AI技术伪造公众人物形象与视频，平台要求所有AI生成内容需主动标识，未履行义务将面临限流处罚，并将依据国家相关监管办法升级AI检测能力，以“主动标识为主、被动标识为辅”的双重逻辑强化内容真实性管控。

随着AIGC技术的快速普及，AI生成内容在小红书这类内容社区的占比持续攀升。从AI绘制的美妆效果图、虚拟穿搭场景，到AI合成的名人探店视频，技术降低创作门槛的同时，也催生了一系列乱象。小红书方面透露，近期平台接到的相关举报量环比上涨超过180%，其中最为突出的问题是部分用户通过AI换脸、语音合成等技术，伪造公众人物发布种草内容，不仅误导普通用户的消费决策，更涉嫌侵犯公众人物的肖像权与名誉权，对平台“真实种草”的核心生态造成冲击。

此次出台的新规，核心在于明确AI生成内容的“可识别性”底线。平台要求，所有由AI生成、合成的图文、视频、文字内容，创作者在发布环节必须主动标注，标识位置需醒目易见，确保用户能快速区分AI内容与真实创作。对于未主动履行标识义务的内容，小红书将启动“被动标识”机制：通过升级后的AI检测系统识别后，为内容添加统一的显眼标识，同时对该内容采取限流措施——包括降低推荐权重、减少曝光量，情节严重的账号还可能面临阶段性禁言处罚。

值得注意的是，此次新规并非平台单方面的自主管控，而是严格依据国家《人工智能生成合成内容标识办法》制定，属于对国家监管要求的落地细化。小红书方面表示，已联合技术服务商升级平台AI内容检测能力，依托华为云的多模态AI识别技术，可精准识别AI生成的图像、视频及文字内容，尤其是针对人脸合成、语音克隆等造假行为，检测准确率超过95%，能有效覆盖绝大多数AI造假场景。

互联网内容安全专家李默在接受采访时指出，小红书作为以“真实种草”为核心竞争力的社区，内容真实性是其生存根基。此次新规通过“主动责任+技术兜底”的组合拳，既明确了创作者的合规义务，又通过技术手段降低监管盲区，这一模式为其他内容平台提供了可参考的范本。“AI造假的核心危害是打破内容信任体系，平台提前介入监管，不仅能维护自身生态，也能避免用户因AI内容陷入消费误导或信息欺诈。”

对普通创作者而言，新规意味着需要调整创作习惯，未来发布AI生成内容时必须同步完成标识操作，否则将直接影响内容流量；对用户来说，标识机制能帮助他们更清晰地判断内容属性，避免被AI伪造的名人推荐所误导；而对整个行业来说，小红书的举措标志着AI内容监管正在从“被动治理”转向“主动防控”，随着AIGC技术的进一步渗透，类似的标识与监管要求将成为内容平台的标配。

不过，业内也存在一些讨论：比如纯文字类AI生成内容的检测难度相对较高，是否会出现监管盲区？对此小红书方面表示，后续将持续优化检测模型，并根据用户反馈和技术发展，不断细化标识规则与检测标准，确保监管措施的全面性与精准性。

在AIGC技术重塑内容创作生态的当下，内容真实性与技术创新的平衡已成为行业核心课题。小红书此次AI内容监管升级，既是对平台用户诉求的回应，也是对国家监管要求的积极落实。未来，随着更多平台加入AI内容规范行列，一个更透明、更可信的AIGC内容生态正在逐步构建。