腾讯近期正式推出开源混合专家（MoE）大模型Hy3，该模型总参数规模达295B，激活参数仅21B，支持最长256K的上下文窗口，模型权重采用Apache 2.0协议完全开放。作为国内头部科技厂商推出的高参数开源MoE方案，Hy3兼顾了大模型的效果上限与推理落地成本，将为不同规模的主体开发大模型应用提供新的选型。---2026年以来，全球开源大模型赛道已经脱离了单纯堆参数的早期竞争阶段，企业用户对模型的落地成本、商用友好度、长文本处理能力的需求快速提升。此前市场上的高参数开源MoE方案多由海外厂商或创业公司推出，国内市场一直缺少兼具技术成熟度、生态支持能力和商用友好性的头部厂商方案，腾讯Hy3的发布恰好填补了这一空白。Hy3的核心优势体现在参数效率的大幅优化，其采用主流混合专家架构，总参数规模达295B，但单次推理仅需要激活21B参数，相当于用接近20B级稠密模型的推理成本，获得接近300B级模型的效果表现，大幅降低了高参数大模型的落地门槛。同时该模型支持256K超长上下文窗口，可一次性处理近20万字的完整文档，覆盖法律卷宗、学术著作、企业合同、多轮长对话等复杂场景需求。更值得关注的是，...
滇公网安备 53252802528133号