登录体验完整功能(收藏、点赞、评论等) — 已累计有 9369 人加入

让AI触手可及,让应用激发潜能

DeepSeek回应异常回复事件:特殊字符触发幻觉无隐私隐患

2026年5月,知名大模型厂商DeepSeek旗下网页版产品出现用户输入特定特殊字符后自动生成无关文本的异常现象,引发大范围关于对话隐私泄露的公众担忧。DeepSeek技术团队耗时36小时完成全链路排查后正式对外回应,确认该异常属于特殊输入触发的定向模型幻觉,不存在任何用户数据泄露的安全漏洞。

在国内头部技术社区的相关讨论帖下,已经有超过百名用户晒出了自己测试复现异常的截图:仅输入一串无意义的特殊字符组合,没有附带任何有效提问,DeepSeek网页版就会立刻返回一段风格迥异、和用户此前对话完全无关的文本,部分内容甚至带有极强的私人属性,瞬间点燃了公众对隐私安全的顾虑。

此次异常最早由一名大模型重度用户在小众测试论坛分享,在两天内迅速扩散到多个公域社交平台,不少用户出于好奇尝试复现,进一步扩大了事件的传播范围。由于跳出的文本大多符合真实用户提问的表述逻辑,不少网友默认这是大模型后台出现了数据泄露漏洞,甚至有大量用户主动清空了自己的对话历史,避免私人信息暴露。

DeepSeek技术团队第一时间启动安全应急响应机制,先后排查了对话数据库存储逻辑、前端请求链路、大模型推理层全模块日志,最终定位到异常根源。
此次异常完全是特定低概率特殊字符序列触发大语言模型注意力层权重偏移,进而生成训练集中无关片段的定向幻觉,全程不存在任何用户数据越权调取、泄露的情况。团队同时补充说明,所有用户的对话数据都采用端到端加密存储,不可能通过简单的输入指令直接调取其他用户的私人对话内容。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。
相关资讯