少找工具,多做创作

蚂蚁数科推出龙虾卫士AI防护体系 护航自主执行型AI落地应用

2026年3月19日,蚂蚁数科正式发布“蚁天鉴2.0-龙虾卫士”AI安全防护体系及claw安全套件1.0,同步启动“龙虾AI安全守护计划”。该产品针对以OpenClaw为代表的自主执行型AI落地企业场景时出现的权限越界、记忆污染、算力滥用等安全痛点,提供全生命周期安全保障,帮助企业平衡AI效率提升与风险治理需求。

近两年,自主执行型AI的落地速度远超行业普遍预期。来自第三方调研机构的统计显示,2025年国内引入OpenClaw类自主执行AI工具的企业占比已达32%,这类工具可自动跨系统完成数据调取、流程审批、业务执行等复杂任务,平均为企业降低运营成本40%以上,但相伴而生的安全漏洞也进入高发期。

不少企业在部署相关工具时,往往仅关注效率提升,却低估了自主执行AI的潜在治理风险。2025年下半年,国内某制造企业部署的自主执行AI被外部恶意指令诱导,越权调取了核心供应链数据,导致千万级订单信息泄露。据不完全统计,2025年国内自主执行AI相关的安全事件同比增长127%,权限越界、记忆污染、恶意诱导、算力滥用已经成为制约这类技术规模化落地的核心障碍。

针对上述行业痛点,本次上线的claw安全套件1.0,核心搭建了三层防护体系:
第一是全链路内容风控,也就是官方所称的“对抗思想变异”能力,对AI的输入指令、输出执行动作做实时双向校验,精准拦截恶意诱导指令,防止模型被“黑化”后执行违规操作;
第二是插件生态合规审计,基于蚂蚁数科自研的CALIR五维模型框架,对OpenClaw的Skills插件仓库做全量扫描与行为审计,提前识别插件的越权操作风险,从源头阻断权限越界、敏感数据泄露隐患;
第三是运行态动态监测,对AI运行过程中的算力消耗、数据访问轨迹做动态建模,一旦出现异常调用立刻触发熔断机制,避免记忆污染、算力滥用等问题进一步扩大。

蚂蚁数科相关业务负责人表示,随着自主执行型AI向财务、供应链、生产管理等企业核心业务场景渗透,未来3年国内AI安全治理的市场规模将突破千亿元,AI安全能力将成为企业部署生成式AI工具的标配。

本次同步启动的“龙虾AI安全守护计划”,将面向首批100家试点企业开放免费的AI安全评估服务,后续蚂蚁数科还将开放部分核心防护能力的标准化接口,供行业伙伴共同完善自主执行AI的安全标准,降低全行业的AI落地风险。

!
本文内容来源于公开互联网信息,并包含平台新增内容及用户发布内容,旨在进行知识整理与分享。文中所有信息与观点均仅供参考,不代表任何官方或特定立场,亦不构成任何操作或决策建议,请读者谨慎甄别,详情请见完整免责声明
相关资讯
AI小创