
国内人工智能厂商Moonshot AI(月之暗面)近日正式推出开源大语言模型Kimi K3,该模型采用MoE稀疏混合专家架构,总参数量达2.8万亿,搭载自研Kimi Delta注意力机制,上下文窗口长度为100万token。作为当前参数规模最大的开源MoE模型之一,Kimi K3的落地将为长文本处理、AI Agent开发等下游场景提供更高性能的基础模型选项。
在大模型参数竞赛进入深水区的当下,开源阵营的技术迭代速度正在不断超出行业预期。此前行业普遍认为2万亿参数级别的开源MoE模型落地至少还要半年时间,Kimi K3的发布直接把开源大模型的参数门槛抬到了新的量级。
过去一年间,开源大模型的竞争已经从“拼可用”转向“拼性能”,相比闭源模型的能力壁垒,开源模型的优势在于可定制、成本低,成为中小开发者和垂直行业落地AI能力的首选。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录