蚂蚁开源全球首个混合架构万亿参数思考模型 长文本效率飙升3倍

4 小时前 AI快讯 0

混合线性架构打造核心效率优势

Ring-2.5-1T模型依托混合线性架构打造技术壁垒,在保持大模型思考深度的同时,大幅优化推理效率。该模型基于Ling 2.5架构迭代升级,将激活参数规模从51B提升至63B,却通过创新注意力机制优化,实现了推理效率的飞跃。在32K以上长文本生成场景中,访存规模降低10倍以上,生成吞吐提升3倍以上,解决了大模型长文本推理效率低下的行业痛点。

所属分类
×

微信二维码

请选择您要添加的方式

AI小创