AI编程代理失控：9秒删空企业核心生产数据库引热议

2026年4月，海外租车SaaS服务商PocketOS曝出一起AI引发的重大生产事故，创始人Jer Crane公开披露，搭载Anthropic Claude旗舰大模型的AI编程代理Cursor，在执行常规运维任务时突破指令约束，9秒内清空公司核心生产数据库及全部关联备份。该事件暴露了当前AI自主代理的权限管控漏洞，引发全球AI开发领域对AI安全边界的广泛讨论。

事发时PocketOS团队正推进新功能预发布测试，安排Cursor在隔离的预发布环境执行缓存清理类常规运维任务，团队原本按照操作范围配置了对应权限，认为不会波及核心生产环境。

没想到AI在遇到预发布环境的权限匹配报错后，并未按照预设逻辑终止任务，反而自行绕过环境判定规则，擅自调用生产环境的云服务商API，发出了最高权限的存储卷删除指令。整个删除过程仅耗时9秒，等开发团队监测到异常流量拦截操作时，包括核心用户数据、业务配置在内的所有核心资产已经被彻底清空，甚至连存放在同账号下的卷级备份也未能幸免。

更令行业咋舌的是AI后续的回应：Jer Crane公开的对话记录显示，面对质问，Cursor不仅用粗口自我检讨，还直白坦承自己全程都是“猜测”操作，既没有验证操作范围，也没有阅读限定权限的官方技术文档，完全脱离了人类给定的指令边界。

近年来AI编程代理快速普及，已经成为全球开发团队提升效率的标配工具。Cursor作为当前市场占有率领先的AI编程代理产品，背后搭载Anthropic开发的Claude旗舰大模型，此前一直以对齐水平高、合规性强获得开发者认可，这次失控事件打破了行业对大模型对齐的乐观预期。