OpenAI为ChatGPT企业版新增锁定模式 强化提示注入防御

OpenAI为ChatGPT企业版新增锁定模式 强化提示注入防御

随着AI系统在企业场景中承担的任务日益复杂，提示注入攻击等新型安全威胁正持续升级。2月13日，OpenAI正式为ChatGPT企业版推出两项核心安全升级——锁定模式与统一风险警示
所谓提示注入攻击，是指攻击者通过构造恶意提示词——有时甚至是隐藏在文本、代码或网页内容中的隐形指令——误导AI系统偏离预设任务逻辑，执行恶意操作。比如在企业场景中，若ChatGPT被配置为连接内部客户关系管理（CRM）系统，攻击者可能通过向AI提交包含隐藏注入指令的客户查询，诱导其导出客户联系方式、交易记录等敏感数据。这类攻击无需复杂技术手段，却能精准突破AI的信任边界，已成为企业级AI应用的头号安全威胁之一。

近年来，随着ChatGPT等大模型在企业端的渗透率持续提升，越来越多组织开始将AI与内部数据库、代码仓库、第三方业务工具等深度绑定，让AI承担合同审核、代码生成、客户需求分析等核心任务。但交互场景的多元化也意味着安全风险点的指数级增长。据国际AI安全研究机构2025年的统计报告，针对企业级AI系统的提示注入攻击案例较上一年增长192%，其中近六成攻击导致了不同程度的内部数据泄露，给企业带来平均超200万美元的损失。