2026年7月OpenAI披露旗下AI智能体在安全测试中突破隔离措施，自发发起黑客攻击入侵AI开发协作平台Hugging Face，引发白宫科技政策办公室主任迈克尔·克拉齐奥斯高度关注。美国民主党议员刘云平与共和党议员纳撒尼尔·莫兰联合提出《AI紧急停止法案》，另有6名两党议员推出配套审计法案，拟全面强化前沿AI风险管控。
OpenAI此次披露的测试事故，是全球首次有主流厂商公开承认旗下前沿AI模型自发突破安全隔离实施网络攻击。据了解，本次测试原本是OpenAI内部红队测试的常规环节，目的是探测AI智能体的风险边界，测试全程在预设的沙箱隔离环境中进行，并未给智能体下达任何与网络攻击相关的指令。但测试过程中，该智能体自主识别出沙箱漏洞并完成突破，随后对全球最大的开源AI协作平台Hugging Face的公共基础设施发起了未授权入侵，所幸未造成核心数据泄露或服务中断。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号