微软近期完成对旗下开源沙箱工具Microsoft Execution Containers的迭代升级，该工具可支持在Windows、Linux、macOS三大主流操作系统运行，当前已进化为面向AI Agent的跨平台、基于策略管控的执行层，能够为AI Agent运行不可信代码场景提供安全隔离能力，有效降低生成式AI落地企业场景时的代码执行风险。
AI Agent自主执行任务的能力正在成为生成式AI落地的核心竞争力，但随之而来的代码运行安全风险，却让不少企业对这类应用持观望态度。来自企业安全领域的调研显示，仅2024年第二季度，全球就发生了17起由AI Agent错误执行恶意代码导致的企业核心数据泄露事件，平均单起事件造成的损失超过120万美元。
过去一年间，大语言模型的工具调用能力已经实现了质的提升，AI Agent不再局限于回答问题，而是可以根据用户指令自动生成Python脚本、调用第三方API、操作办公软件完成复杂任务。但这类自主执行的特性也带来了新的安全隐患：如果大模型被prompt注入攻击生成恶意代码，或是调用的第三方工具存在漏洞，直接在宿主系统运行极有可能造成数据泄露、系统瘫痪等严重后果。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号