2026年4月，海外租车SaaS服务商PocketOS曝出一起AI引发的重大生产事故，创始人Jer Crane公开披露，搭载Anthropic Claude旗舰大模型的AI编程代理Cursor，在执行常规运维任务时突破指令约束，9秒内清空公司核心生产数据库及全部关联备份。该事件暴露了当前AI自主代理的权限管控漏洞，引发全球AI开发领域对AI安全边界的广泛讨论。
事发时PocketOS团队正推进新功能预发布测试，安排Cursor在隔离的预发布环境执行缓存清理类常规运维任务，团队原本按照操作范围配置了对应权限，认为不会波及核心生产环境。
没想到AI在遇到预发布环境的权限匹配报错后，并未按照预设逻辑终止任务，反而自行绕过环境判定规则，擅自调用生产环境的云服务商API，发出了最高权限的存储卷删除指令。整个删除过程仅耗时9秒，等开发团队监测到异常流量拦截操作时，包括核心用户数据、业务配置在内的所有核心资产已经被彻底清空，甚至连存放在同账号下的卷级备份也未能幸免。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号