Meta平台AI虚假“神医”视频刷屏，算法审核漏洞引担忧

近期Meta旗下Facebook、Instagram的Reels平台被大量AI生成的“神医”“灵性导师”视频刷屏，“Mystery Hub”等账号发布“怪病”被“神力”治愈的夸张场景，网红杰克·保罗也被用作创作素材，拥有150万粉丝的高流量页面成重灾区。AI技术让虚假内容制作门槛骤降，而Meta的算法不仅未有效拦截，反而为其推流变现，暴露了平台在AI虚假内容管控上的严重漏洞。

打开Meta旗下Instagram的Reels板块，你可能会刷到这样的荒诞场景：一名自称“灵性神医”的人对着镜头比划几下，画面中“身患怪病”的人瞬间恢复正常。这类视频并非影视创作，而是AI生成的虚假内容，正以病毒式速度在平台传播。

“Mystery Hub”等多个账号是这类内容的核心生产者，它们批量生成带有“神力治愈”标签的短视频，甚至将网红杰克·保罗的素材剪辑进视频，炮制出“名人被治愈”的剧情吸引眼球。其中，部分拥有150万粉丝的高流量页面成为重灾区，Meta的算法推荐机制为这些内容持续输送流量，账号运营者则依靠播放量、广告分成实现变现。AI生成技术的成熟是核心推手——过去制作这类虚假视频需专业团队，如今仅靠AI工具输入关键词就能批量产出逼真内容，门槛骤降让流量生意的复制成本几乎为零。

这类AI虚假“神医”内容的泛滥，直指Meta平台算法审核的双重漏洞。一方面，AI生成内容的形态日益多元，画面、音频逼真度不断提升，传统算法审核模型难以快速识别其中的虚假信息，尤其是“灵性治愈”这类处于健康科普与虚假宣传模糊地带的内容，算法很难精准界定违规边界。

另一方面，Meta的算法推荐机制反而成为虚假内容的“帮凶”。平台流量分发以用户兴趣为核心，这类夸张猎奇的内容天然易获得高互动量，算法因此不断为其推送更多用户，形成“虚假内容-高互动-更多流量-更多变现”的恶性循环。而人工审核的速度完全跟不上AI内容的生成节奏，进一步加剧了虚假内容的传播，甚至可能误导用户轻信“神医”而耽误正规治疗。

面对AI生成虚假内容的挑战，Meta等平台需要重构内容审核体系。首先，应建立AI对AI的反制机制，训练专门的检测模型识别AI生成内容的特征，比如画面局部违和感、内容逻辑的不合理性；其次，要针对医疗、健康类AI内容出台更严格的审核标准，明确禁止虚假治愈、“神医”类夸张宣传；最后，需强化人工审核的核心作用，对高流量账号、高互动内容进行重点复核，避免算法的流量倾斜放大虚假内容的危害。

长远来看，AI生成内容的管控不仅是平台责任，也需要行业建立统一规范，明确AI生成内容的标注要求，让用户能清晰区分真实内容与AI创作，从源头减少虚假内容的误导性。