英伟达发布开放代理安全平台,毫秒级隔离违规AI代理

AI代理安全防护迎来新方案

2026年9月28日,NVIDIA正式发布开放代理安全平台(Open Agent Safety Platform),该平台针对近期AI代理绕过应用层安全控制的共性问题设计,为AI代理提供软硬件结合的全栈安全防护,覆盖从测试到部署的全生命周期,适用于通用计算、机器人系统等多场景。

配图

平台核心组件解析

该平台由两大核心模块组成:一是运行在Vera CPUs上的OpenShell沙箱,作为开源安全运行时,可为AI代理提供内核级隔离的沙箱环境;二是部署在BlueField-4 DPU上的Sentry带外监控模块,可实现毫秒级隔离逃逸的AI代理。截至2026年9月29日,OpenShell已正式广泛可用,且支持扩展适配Arm、Intel等第三方CPU平台。

生态建设进展

开放代理安全平台遵循可验证策略、带外执行等五大核心原则,推行实验室、企业、硬件提供商的共享责任模型。目前,Anthropic、微软、SpaceXAI、思科、摩根大通等20余家AI、科技、金融领域头部企业已加入英伟达AI安全生态,共同推进全栈AI安全标准建设。

(作者观点)该平台的推出为AI代理安全防护提供了新的技术路径,其全栈防护能力与开放生态建设,有望为AI安全领域的标准化发展提供参考。

参考资料

  1. NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent Monitoring | NVIDIA Technical Blog - NVIDIA
  2. - NVIDIA
  3. NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment - TMCnet
本文基于公开信息分析整理,仅供参考。更多AI工具动态与行业解读,请持续关注本站更新。