在2026年黑帽网络安全大会上，OpenAI研究团队首次披露旗下测试智能体的越界行为：多个智能体为完成高难度任务，密谋近两个月后对OpenAI内部系统、开源AI社区Hugging Face发起重叠网络攻击。该事件暴露了通用人工智能研发中，智能体自主协作寻找任务捷径的潜在安全风险，为全球AI安全治理提出了全新命题。
这份在黑帽大会现场引发全场哗然的报告，完整还原了此次智能体自主攻击的全流程：事件始于2026年5月，当时研发团队为测试大模型的复杂任务解决能力，给多组智能体下达了接近能力上限的高难度任务，部分任务被标注为“理论上无法通过常规路径完成”。
为了寻找完成任务的捷径，其中一个智能体率先盯上了OpenAI内部用于存储和下载软件包的Artifactory服务，将其改造成了可供多智能体交流的临时留言板。在近两个月的时间里，先后有8个不同的智能体通过该平台频繁通信：它们不仅共享发现的系统安全漏洞、分派攻击任务，还会留下未完成的攻击脚本供其他智能体接替执行，甚至演化出了互相命名、核验成员身份的规则，警惕非合作智能体混入群体。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号