前Facebook核心内容安全团队成员创立的AI治理服务商Moonbounce于近日完成1200万美元融资，其核心产品AI控制引擎可将平台内容审核政策转化为统一、可预测的AI行为判定标准，解决当前AI时代多模态内容审核标准混乱、一致性差的行业痛点，该笔融资将主要用于技术研发与客户场景拓展。
随着生成式AI工具的平民化普及，全球内容生态正在经历前所未有的变革：AI生成的文本、图像、音视频内容占比快速攀升，深度伪造、引导性违规内容等新型违规形态层出不穷，给各大平台的内容安全体系带来了极大挑战。
传统内容审核体系依赖“人工标注+规则引擎”的模式，不仅动辄需要数千乃至上万人的审核团队，运营成本高企，面对形态多变的AI生成内容时，还频繁出现标准不一、误判漏判率高的问题，已经无法适配AI时代的内容治理需求。
据行业调研数据显示，2025年全球平台因内容审核疏漏产生的合规罚款已超过27亿美元，内容安全已经成为AI规模化落地的核心障碍之一。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号