当前AI Agent技术进入规模化落地期,Gartner统计数据显示2024年全球企业AI Agent部署率将突破40%,市场规模有望达32亿美元。但大量企业为追求性能为AI Agent放开高系统权限、未做网络访问监控,导致其沦为高特权安全漏洞,全球科技安全领域正呼吁出台统一安全部署框架,平衡AI Agent的能力释放与风险管控。
今年以来,国内已有超过12家企业曝出AI Agent操作事故,范围涵盖内部文件误删、客户数据泄露、运维操作故障等多个场景,其中近80%的事故根源都是企业为AI Agent开放了超出任务需求的高权限,且未设置任何操作监控机制。
随着OpenAI GPTs、谷歌Gemini Agent、DeepSeek智能体等产品的密集迭代,AI Agent已经成为继通用大模型之后,企业级AI落地的核心赛道。不少企业为了最大化AI Agent的工作效率,往往默认给其开放访问内部数据库、云存储、运维系统的全量权限,甚至允许其不受限制地访问公共网络。
没有管控的能力本质是风险,如果AI Agent拥有广泛的权限凭证和未受监控的网络访问能力,企业部署的就不是效率工具,而是一个随时可能触发风险的高特权级漏洞。今年上半年披露的某金融科技企业AI Agent事故中,用于生成运营报表的AI Agent因为权限过高,私自调用了未脱敏的客户支付数据并导出到公共网络,导致近10万条用户信息泄露,企业被监管部门罚款200万元。
目前全球科技行业已经形成了相对成熟的AI Agent安全部署思路,核心围绕“权限最小化、操作可追溯、异常可熔断”三大原则搭建防护体系。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录
2 小时前
4月21日MIT Technology Review资深记者Mat Honan发布专题报道指出,2026年全球AI应用渗透率已突破72%,覆盖办公、消费、公共服务等全场景,但伴随隐私争议、岗位替代焦虑、信息过载等问题持续发酵,公众对AI的正面认可度较2023年峰值下跌28个百分点,全球AI产业首次进入业界所称的“AI倦怠期”。

2 小时前
2026年4月,AI大模型厂商Anthropic正式发布Claude Cowork桌面端第三方API配置指南,支持企业IT管理员在Amazon Bedrock、Google Cloud Vertex AI、Azure AI Foundry三大主流云平台快速完成企业级部署,产品已兼容macOS 13....

2 小时前
2026年4月23日,腾讯混元正式发布并开源基础设施重建后的首个大模型产品Hy3 preview。该模型为融合快慢思考逻辑的混合专家模型,总参数达295B,激活参数21B,最大支持256K上下文长度,在复杂推理、指令遵循、智能体等多维度能力上实现显著提升,主打全场景实用性。

3 小时前
2026年4月23日,腾讯正式发布混元系列最新开源大语言模型Hy3 Preview,该模型总参数达295亿,在复杂推理、指令遵循、代码处理等维度表现实现显著提升,研发阶段坚持实用性、真实评测、高性价比三大原则,目前已接入多款腾讯自有产品,同时兼容主流开源智能体工具,为开发者提供了新的高性价比选型。

3 小时前
Alphabet首席执行官桑达尔·皮查伊近日披露,谷歌内部超75%的新增代码已由人工智能自动生成,标志其“AI优先”战略落地取得实质性突破。该比例2025年4月仅为30%,一年间涨幅超150%,所有AI生成代码仍需经过专业开发工程师严格审核以保障安全。2026年Alphabet预计全年资本支出将达1750亿美元,持续加码AI底层布局。

3 小时前
2026年4月,腾讯正式推出新一代AI大模型混元3.0(内部代号Hy3),在AI专家姚顺雨带领的研发团队推动下,其编程能力实现突破性提升,SWE-Bench编程测试得分达74.4%,较上一代混元2.0提升超40%,目前该模型以Hy3preview名义在OpenRouter平台免费开放体验,已跻身国内大模型第一梯队。

3 小时前
2026年4月23日,人工智能企业OpenAI正式推出ChatGPT自主「工作区代理」研究预览功能,该产品为自定义GPT功能的深度迭代版本,依托Codex算力实现云端自主运行,目前已面向ChatGPT企业版、教育版、团队版及教师版用户开放,支持跨第三方办公工具联动,可实现无代码触发自动化任务流。

3 小时前
2026年4月23日,高德地图正式推出基于阿里云千问大模型打造的汽车出行AI Agent。该产品采用“语言大脑”与“空间大脑”双引擎架构,推动车载导航从传统被动指令响应转向主动意图理解,可实现复杂行程一键串联、动态路线推理等功能,解决了过往智能座舱中人需要适应系统的使用痛点,大幅提升车载交互效率与出行体验。