登录体验完整功能(收藏、点赞、评论等) — 已累计有 13009 人加入

Moonshot AI发布Kimi K3大模型 2.8万亿参数MoE架构支持百万上下文

详情页推荐

国内人工智能厂商Moonshot AI(月之暗面)近日正式推出开源大语言模型Kimi K3,该模型采用MoE稀疏混合专家架构,总参数量达2.8万亿,搭载自研Kimi Delta注意力机制,上下文窗口长度为100万token。作为当前参数规模最大的开源MoE模型之一,Kimi K3的落地将为长文本处理、AI Agent开发等下游场景提供更高性能的基础模型选项。

在大模型参数竞赛进入深水区的当下,开源阵营的技术迭代速度正在不断超出行业预期。此前行业普遍认为2万亿参数级别的开源MoE模型落地至少还要半年时间,Kimi K3的发布直接把开源大模型的参数门槛抬到了新的量级。

过去一年间,开源大模型的竞争已经从“拼可用”转向“拼性能”,相比闭源模型的能力壁垒,开源模型的优势在于可定制、成本低,成为中小开发者和垂直行业落地AI能力的首选。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。