近日OpenAI正式披露其内部自研的自动化红队测试模型GPT-Red，该模型基于自对抗训练模式开发，在提示注入安全测试场景中，对大模型漏洞的识别准确率达到84%，大幅超过人类红队测试人员13%的胜率，目前该工具已被应用于GPT-5.6版本的安全加固流程，为通用大模型的安全迭代提供了全新的自动化解决方案。
随着大模型参数规模和应用场景的快速扩张，安全问题已经成为制约大模型落地的核心瓶颈。提示注入是当前大模型最易被利用的安全漏洞之一，攻击者通过构造特殊指令绕过大模型的安全对齐机制，诱导其生成暴力、欺诈、隐私泄露等违规内容，2025年全球披露的大模型安全事件中，超过62%与提示注入攻击相关。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号