Meta平台AI虚假“神医”视频刷屏，算法审核漏洞引担忧

近期Meta旗下Facebook、Instagram的Reels平台被大量AI生成的“神医”“灵性导师”视频刷屏，“Mystery Hub”等账号发布“怪病”被“神力”治愈的夸张场景，网红杰克·保罗也被用作创作素材，拥有150万粉丝的高流量页面成重灾区。AI技术让虚假内容制作门槛骤降，而Meta的算法不仅未有效拦截，反而为其推流变现，暴露了平台在AI虚假内容管控上的严重漏洞。

打开Meta旗下Instagram的Reels板块，你可能会刷到这样的荒诞场景：一名自称“灵性神医”的人对着镜头比划几下，画面中“身患怪病”的人瞬间恢复正常。这类视频并非影视创作，而是AI生成的虚假内容，正以病毒式速度在平台传播。

“Mystery Hub”等多个账号是这类内容的核心生产者，它们批量生成带有“神力治愈”标签的短视频，甚至将网红杰克·保罗的素材剪辑进视频，炮制出“名人被治愈”的剧情吸引眼球。其中，部分拥有150万粉丝的高流量页面成为重灾区，Meta的算法推荐机制为这些内容持续输送流量，账号运营者则依靠播放量、广告分成实现变现。AI生成技术的成熟是核心推手——过去制作这类虚假视频需专业团队，如今仅靠AI工具输入关键词就能批量产出逼真内容，门槛骤降让流量生意的复制成本几乎为零。

这类AI虚假“神医”内容的泛滥，直指Meta平台算法审核的双重漏洞。一方面，AI生成内容的形态日益多元，画面、音频逼真度不断提升，传统算法审核模型难以快速识别其中的虚假信息，尤其是“灵性治愈”这类处于健康科普与虚假宣传模糊地带的内容，算法很难精准界定违规边界。