近日，专注AI模型安全合规领域的初创公司ZeroDrift宣布完成1000万美元融资。该公司核心产品为介于大语言模型与终端用户之间的合规中间层服务，可实时识别、拦截并替换AI生成的违规内容，解决大模型自生成内容引发的合规风险，目前该技术已在金融、政务等多个高合规要求场景完成测试落地。
过去一年，全球企业级大模型的落地进程不断加速，但伴随而来的合规风险正在成为制约产业普及的核心瓶颈——仅2026年第一季度，全球范围内就有超过70家企业因AI生成内容不符合行业监管要求遭到处罚，单笔最高罚款金额突破1200万美元。不同于用户输入引导、事后内容审核等传统解决方案，ZeroDrift的技术路径瞄准了大模型“自生成违规内容”的核心漏洞。
当前主流的大模型安全方案大多聚焦于训练数据清洗、prompt注入防护两个环节，却忽略了大模型推理过程中自主生成违规内容的风险：即使训练数据完全合规、用户输入没有恶意引导，大模型仍可能出现幻觉生成虚假信息、泄露训练数据中的敏感内容，或是输出不符合特定行业监管规则的内容。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号