2026年5月,知名大模型厂商DeepSeek旗下网页版产品出现用户输入特定特殊字符后自动生成无关文本的异常现象,引发大范围关于对话隐私泄露的公众担忧。DeepSeek技术团队耗时36小时完成全链路排查后正式对外回应,确认该异常属于特殊输入触发的定向模型幻觉,不存在任何用户数据泄露的安全漏洞。
在国内头部技术社区的相关讨论帖下,已经有超过百名用户晒出了自己测试复现异常的截图:仅输入一串无意义的特殊字符组合,没有附带任何有效提问,DeepSeek网页版就会立刻返回一段风格迥异、和用户此前对话完全无关的文本,部分内容甚至带有极强的私人属性,瞬间点燃了公众对隐私安全的顾虑。
此次异常最早由一名大模型重度用户在小众测试论坛分享,在两天内迅速扩散到多个公域社交平台,不少用户出于好奇尝试复现,进一步扩大了事件的传播范围。由于跳出的文本大多符合真实用户提问的表述逻辑,不少网友默认这是大模型后台出现了数据泄露漏洞,甚至有大量用户主动清空了自己的对话历史,避免私人信息暴露。
DeepSeek技术团队第一时间启动安全应急响应机制,先后排查了对话数据库存储逻辑、前端请求链路、大模型推理层全模块日志,最终定位到异常根源。
此次异常完全是特定低概率特殊字符序列触发大语言模型注意力层权重偏移,进而生成训练集中无关片段的定向幻觉,全程不存在任何用户数据越权调取、泄露的情况。团队同时补充说明,所有用户的对话数据都采用端到端加密存储,不可能通过简单的输入指令直接调取其他用户的私人对话内容。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录
10 秒前
本次资讯聚焦Google最新推出的全模态通用生成工具Gemini Omni,该产品整合新一代Gemini大模型的多模态能力覆盖图文、音视频全品类内容生产环节,可替代绝大多数中小型创作工作室的标准化工作流程,目前已有超2000家内容制作团队提交内测申请,将直接改写当前AI创作赛道的竞争格局。

6 分钟前
近日谷歌正式宣布对旗下核心AI服务Gemini的全订阅体系完成重大调整,新增定价100美元/年的中高端专属档位,所有现有订阅方案同步下调定价,同时为不同层级用户开放此前仅面向内部测试的数十项新特性,覆盖网页、移动端及谷歌全硬件生态,进一步对标ChatGPT、Copilot Pro等头部AI订阅产品。

8 分钟前
近日谷歌旗下AI开发平台Google AI Studio完成重大功能迭代,依托Gemini大模型的原生适配能力,零编程基础用户无需编写任何代码,仅通过自然语言描述就能生成可直接部署运行的原生Android应用。该功能上线首周公开测试阶段,参与体验的用户数已经突破12万,大幅拉低了移动应用开发的准入门槛。

10 分钟前
近日美国陪审团快速驳回埃隆·马斯克针对OpenAI联合创始人及合作伙伴微软提起的诉讼,此前马斯克指控山姆·奥特曼窃取原本定位非盈利属性的OpenAI将其转为商业化实体。庭审披露的大量内部文件显示,马斯克早年执掌机构期间,本身就提出过将OpenAI商业化变现、引入科技巨头资源的相似规划,这起耗时近3年的行业标志性诉讼最终以马斯克败诉告终。

12 分钟前
蚂蚁集团旗下开源AI驱动数据可视化工具AntV近日曝出遭持续性npm供应链攻击事件,本次事件累计出现28个被篡改的恶意依赖包,波及国内超12万前端开发者的线上项目,资深网络安全研究员张磊表示,这是今年同类攻击中影响范围最大的事件之一,面向全行业AI开发者敲响依赖安全的警钟。

16 分钟前
谷歌依托Gemini大模型技术底座正式推出Workspace 24/7全时AI代理,据内部测试数据显示,该产品无需人工触发即可自主完成邮件回复、会议预约、文档协同整理等全场景办公操作,可将普通白领的日常行政类事务耗时降低42%,是当前消费级办公AI领域首个实现无人值守全时段运行的落地商用产品。

18 分钟前
近日谷歌旗下大模型产品Gemini推送2024年下半年最大规模功能更新,新增原生AI视频生成、晨间事务简报、后台离线批量处理三大核心能力,据官方披露该更新已面向所有Gemini Advanced付费用户全量推送,早期灰度测试数据显示,用户日均处理零散数字琐事的耗时可降低62%,大幅提升日常信息处理效率。

20 分钟前
近日谷歌正式官宣将为核心搜索产品Google Search新增主动式AI代理功能,由谷歌搜索产品副总裁Chris Kakkar带队研发,依托Gemini 1.5 Pro大模型驱动,预计2025年上半年向全球超10亿月活搜索用户逐步开放,支持用户自定义全网内容监测需求,或将彻底改变传统搜索引擎被动应答的产品逻辑。