登录体验完整功能(收藏、点赞、评论等) — 已累计有 13104 人加入

杨植麟GTC2026披露:月之暗面重构Transformer核心组件全开源

详情页推荐

在GTC2026大会《How We Scaled Kimi K2.5》主题演讲中,月之暗面CEO杨植麟正式宣布,团队对Transformer架构沿用近十年的Adam优化器、全注意力机制、残差连接三大核心组件完成重构,所有替代方案全部对外开源,为开源模型缩小与闭源前沿模型差距提供了堆参数、堆算力之外的全新路径。

这场被不少参会开发者称为“GTC2026最具突破性的AI底层技术发布”的演讲,没有把重点放在Kimi K2.5的参数、跑分等产品参数上,而是直接抛出了月之暗面团队过去一年多的核心研发结论:开源模型要追上闭源前沿水平,没必要继续在堆参数、堆算力的赛道上内卷,重构底层架构才是性价比更高的路径。

过去两年,开源大模型阵营始终在寻找缩小与GPT-4o、Claude 3等闭源前沿模型差距的路径,但绝大多数厂商的优化方向都集中在扩大参数规模、提升训练算力投入两个维度,随之而来的是训练成本指数级上涨,但性能提升幅度却持续收窄,业内普遍认为开源模型已经摸到了现有技术架构下的增长天花板。

对于中小开发者和厂商而言,堆参数、堆算力的赛道几乎已经被头部玩家锁死,没有足够的算力储备和数据资源,根本不可能参与到前沿性能的竞争中,开源生态的创新活力也因此受到限制。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。