微软发布开源AI代理治理工具包 覆盖OWASP十大安全风险

近日微软正式推出开源Agent Governance Toolkit（代理治理工具包），该产品直接对标OWASP评选的十大Agentic AI安全威胁，可在运行阶段遏制提示词注入、AI代理失控、工具权限滥用等常见安全问题，为企业级AI代理应用落地提供了新的安全合规解决方案，填补了智能代理运行态治理的市场空白。

随着生成式AI技术的快速成熟，具备自主决策、工具调用能力的AI代理（Agent）正在成为企业数字化转型的核心工具，从智能客服、内部流程自动化到研发辅助场景，AI代理的落地规模近两年保持了200%以上的年增速。

但快速扩张的背后是安全风险的集中爆发：据全球企业安全联盟2024年上半年的调研数据，超过65%的企业级AI安全事件与AI代理的运行态风险相关，其中未做权限管控的代理调用第三方工具造成的数据泄露、恶意提示词注入引发的代理失控事件占比最高。此前行业普遍采用的静态安全校验方案，无法适配AI代理动态决策的特性，安全治理已经成为AI代理大规模落地的核心瓶颈。

微软此次推出的Agent Governance Toolkit，直接瞄准了行业公认的安全标准OWASP十大AI代理风险，针对每一项风险都设计了对应的实时检测规则。