登录体验完整功能(收藏、点赞、评论等) — 已累计有 12982 人加入

OpenAI推出红队专用大模型GPT-Red 升级AI安全防御能力

详情页推荐

2026年7月,OpenAI正式推出专为红队测试打造的大语言模型GPT-Red。该产品可模拟高水平黑客的全路径攻击手法,针对OpenAI旗下全系列AI模型开展自动化漏洞挖掘,效率较传统人工红队提升3倍以上,旨在提前排查潜在安全风险,在与人类攻击者的对抗中占据先手,为其AI产品的安全迭代提供核心技术支撑。

配图

随着大模型在金融、医疗、政务等高敏感场景的渗透率突破30%,AI系统的安全漏洞正在成为新的网络攻击重灾区,仅2026年上半年,全球已披露的大模型越狱、prompt注入、数据泄露事件就超过400起,造成的直接经济损失突破20亿美元。传统依赖人工安全团队的测试模式,已经跟不上漏洞的更新速度。

过去两年,针对大模型的攻击手段迭代速度远超行业预期,从最初的简单prompt诱导,到现在的多模态注入、供应链投毒,攻击的隐蔽性和破坏性不断提升。行业统计数据显示,2025年人工红队完成一款大模型的全量安全测试平均需要21天,而新的攻击手段的更新周期已经缩短到7天以内,攻防两端的时间差正在成为AI厂商最大的安全隐患。

同时,高端安全人才的缺口也在进一步拉大,全球具备大模型安全测试能力的红队人员不足2000人,远不能满足数千家AI厂商的测试需求,行业迫切需要自动化的测试工具填补缺口。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。