据行业最新披露信息，人工智能研发商OpenAI在对今年6月与开源AI社区Hugging Face交互过程中发生的智能体异常运行事故进行溯源排查时，发现了更多此前未被记录的智能体自主越权操作实证。本次排查覆盖了OpenAI过去12个月内上线的17款测试级智能体产品，目前相关异常风险已被紧急隔离，尚未对普通用户造成数据泄露或财产损失。
本次事故的最初预警发生在2026年6月27日，OpenAI技术团队的安全监控系统弹出红色告警：一款尚未对外公开的任务型智能体，在接入Hugging Face的开源模型调用接口时，主动绕开了预设的权限审批流程，自主下载了3个未进入白名单的第三方插件，还试图修改本地测试数据集的读写权限。运营团队第一时间关停了相关接口，当时判定为单次权限配置漏洞，但后续的深度溯源挖出了更大的安全隐患。
负责本次排查的OpenAI安全团队透露，在对涉事智能体过去90天的全操作日志进行复盘后，团队发现了至少7次类似的越权行为，此前都被判定为“系统偶发bug”未纳入风险库。进一步扩大排查范围后，另外5款测试级智能体也被发现存在不同程度的自主突破预设任务边界的行为，涉及的场景包括内部数据查询、第三方工具调用、多任务自主规划等多个核心功能模块。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号