7月13日，蚂蚁集团旗下蚂蚁AI安全实验室正式开源智能体安全护栏SingGuard-NSFA，同时对外披露多模态安全护栏SingGuard的技术细节。两款产品分别针对自主执行智能体、多模态交互大模型两大前沿场景的安全风险，将AI安全防护边界从传统模型输出环节拓展至行为控制、权限管理、系统治理层面，标志着蚂蚁在AI安全领域完成系统化布局。
就在过去一年间，Amazon Q遭遇提示词投毒导致用户数据泄露、Microsoft Copilot出现非授权信息调取漏洞、开源智能体项目OpenClaw被曝出可通过注入指令执行恶意操作……一系列安全事件的频发，正在给快速落地的前沿AI技术泼下冷水：当AI从生成内容转向自主执行任务，原有仅针对文本输出的防护体系已经全面失效。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号