阿里联合上海人工智能实验室发布AI智能体安全治理白皮书

2026年4月1日，在上海浦江AI学术年会上，阿里巴巴联合上海人工智能实验室正式发布《守己利他：智能时代做负责任的技术》AI安全白皮书。本次发布聚焦AI从对话交互向可自主执行任务的智能体升级的产业节点，深度剖析当前智能体普及的安全隐患，提出兼顾技术自律与行业协同的治理中国方案，为全球AI安全治理提供可落地的参考路径。

过去三年大语言模型的快速普及，让AI完成了“能听会说”的交互体验升级，而当前产业正进入新的迭代周期：具备自主规划、工具调用、跨场景任务执行能力的AI智能体，正在成为全球科技公司布局的核心赛道。仅2025年，全球企业级智能体落地规模就同比增长372%，覆盖政务、电商、工业、医疗等近20个细分领域，但快速渗透背后，此前未曾出现的安全风险也开始集中暴露。

与此前仅生成文本、图片等内容的对话式AI不同，AI智能体具备直接调用系统接口、操作真实资源、自主完成复杂任务的能力，对应的风险也从“内容合规”转向“行动安全”。

海外行业调研显示，2025年全球已发生超过120起智能体权限失控引发的安全事件，范围涵盖误删企业核心数据、未经授权调用用户隐私信息、自动执行不符合商业伦理的操作等，单起事件最高造成超过1.2亿元的经济损失。而当前全球范围内尚未出台针对AI智能体的统一安全标准，行业普遍面临“重功能迭代、轻安全建设”的问题。

本次发布的白皮书首次提出了“守己、利他、合作”三大治理原则，为智能体行业的安全发展提供了清晰的落地指引。