2026年6月，人工智能企业OpenAI正式面向所有ChatGPT登录用户开放全新可选安全设置「封锁模式」，针对智能体时代大模型联网、工具调用能力升级后日益猖獗的提示注入攻击提供防护，避免用户商业机密、个人隐私等敏感数据因恶意指令泄露，该功能已覆盖全部个人账户类型及企业工作区。
过去两年，随着大模型普遍接入联网能力与第三方工具生态，提示注入攻击已经成为企业用户使用生成式AI的最大安全隐患之一。攻击者往往会将恶意指令隐藏在PDF文档、网页源码甚至图片隐写内容中，一旦大模型读取这些被「投毒」的内容，就可能绕过预设的安全对齐规则，在用户无感知的状态下执行数据外传、越权操作等恶意行为。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号