近日,AI公司DeepSeek联合北京大学、清华大学发布学术论文,推出全新推理系统架构DualPath。该架构精准攻克大语言模型多轮Agent交互中的存储带宽瓶颈,经实验验证,离线批处理推理吞吐量最高提升1.87倍,在线服务场景Agent每秒处理能力平均提升1.96倍,为大模型Agent的产业化落地扫清了关键性能障碍。
当大语言模型Agent进行10轮以上的多轮交互时,传统推理架构的存储带宽往往会成为致命短板——数据读写速度跟不上模型运算需求,直接拉低整体服务效率。而DeepSeek联合顶尖高校的最新研究,恰好瞄准了这一行业长期存在的痛点。
随着大语言模型从单次问答向多轮Agent交互进化,比如智能办公助手、多轮对话式客服等场景,模型需要持续存储并调用历史交互上下文。传统推理架构中,所有上下文数据都通过单一路径读写,这会导致存储带宽被大量占用,进而限制推理吞吐量,使得服务无法支撑高并发需求。这一存储带宽瓶颈,已成为Agentic大语言模型规模化落地的核心障碍之一。
DeepSeek联合北京大学、清华大学在论文《DualPath: Breaking the Storage Bandwidth Bottleneck in Agentic LLM Inference》中,提出了DualPath推理系统架构。该架构通过创新的双路径设计,将历史上下文数据与当前请求数据的读写路径分离,从根源上缓解了存储带宽压力。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录
1 小时前
2026年4月4日,大模型厂商Anthropic正式官宣生态政策调整:从美国东部时间4月4日15点(北京时间4月5日3点)起,旗下Claude大模型将禁用OpenClaw等第三方工具,用户后续仅能通过额外付费套餐或Claude API Key调用相关工具。该政策将率先在OpenClaw落地,未来覆盖全部第三方工具链,是大模型厂商收紧生态控制权、加速商业化的标志性动作。

2 小时前
Rainmaker Securities总裁Glen Anderson最新披露,当前全球私人股权二级市场活跃度创下历史峰值,AI创企Anthropic成为最受追捧的交易标的,同赛道头部企业OpenAI交易热度出现明显下滑,而SpaceX临近的IPO计划,或将对整个一级科技创投市场的资金流向产生颠覆性影响。

7 小时前
近期Meta、微软、谷歌等海外头部科技企业相继公布天然气电厂建设计划,为旗下高速扩张的AI数据中心提供稳定电力支撑。随着生成式AI普及,单座AI算力中心能耗是传统数据中心的3-5倍,现有公共电网已难以满足企业爆发式算力供电需求,化石能源供电方案也引发了业内对碳目标达成、长期运营风险的广泛讨论。

7 小时前
谷歌近日面向企业级客户发布全新AI推理管控套件,针对当前企业部署大模型时平均推理成本占AI总支出60%以上、峰值时段服务可用性不足92%的行业痛点,提供动态算力调度、故障自动切换等功能,可帮助企业将推理环节综合成本降低30%左右,同时大幅提升生成式AI服务的运行稳定性。

7 小时前
2026年美国中期选举进入倒计时阶段,头部大模型企业Anthropic近日宣布成立全新政治行动委员会(PAC),计划定向支持认同其分级AI监管、算力资源倾斜、AIGC版权保护等政策议程的议员候选人。此次动作是头部AI企业从技术研发向政策上游延伸的标志性事件,也意味着全球AI行业的政策博弈进入白热化阶段。

7 小时前
据科技媒体The Information及行业分析师Eric Newcomer披露,AI大模型厂商Anthropic已于近期完成对秘密运营的生物科技AI初创公司Coefficient Bio的收购,本次交易为全股票形式,总对价达4亿美元。这是Anthropic首次落地生命科学垂直领域布局,也标志着大模型厂商商业化正加速向生物医药赛道渗透。

7 小时前
2026年以来,微软、Meta、Google等全球科技巨头先后启动配套天然气发电厂建设项目,以满足AI大模型训练、推理所需的超算数据中心爆发式增长的能耗需求。行业测算显示,头部AI算力集群的单位能耗是传统数据中心的5-10倍,这一能源布局已引发行业关于碳排放、长期能源结构合理性的广泛讨论。

7 小时前
近日,AI大模型企业Anthropic宣布为旗下对话式AI产品Claude推出Windows平台本地交互能力,新版本可直接跨应用调取用户邮件、本地存储的各类文档,还能自主执行系统级任务操作。据官方披露,该功能可将文档整理、日程响应类办公流程的处理效率提升45%,无需用户手动上传文件即可完成复杂指令。