筑牢AI安全防线:OpenAI为ChatGPT上线双项高级防护措施应对提示注入风险

9 小时前 AI快讯 1

聚焦提示注入隐患,升级多层安全底座

随着ChatGPT在企业、教育、医疗等对数据安全要求极高的场景中深度落地,提示注入攻击已成为AI应用的核心安全痛点。这类攻击通过第三方伪装成合法指令,诱导AI绕过原生安全规则,执行恶意操作或泄露内部敏感数据,例如企业客户信息、患者医疗记录、教育机构内部资料等,给相关机构带来合规风险与经济损失。OpenAI此次推出的双项防护措施,并非重构安全体系,而是在已有的沙箱隔离机制、URL数据防护基础上进行针对性升级,在保障AI核心交互功能不受影响的前提下,精准封堵提示注入类漏洞。

所属分类
×

微信二维码

请选择您要添加的方式

AI小创