登录体验完整功能(收藏、点赞、评论等) — 已累计有 12791 人加入

蚂蚁集团周俊:万亿参数大模型需从追规模转向深耕效率

详情页推荐

在近期举办的AICon全球人工智能开发大会上,蚂蚁集团副总裁周俊披露了万亿参数大模型当前的核心痛点:单模型连续运行15分钟的算力成本即相当于一辆特斯拉的市场售价。他提出行业需从盲目追求参数规模转向提升Token密度,其团队推出的混合线性注意力架构等技术,可将长上下文处理成本从指数级降至线性级。

配图

2026年以来,大模型行业的参数“军备竞赛”已经进入白热化阶段,千亿、万亿参数级的新产品层出不穷,但越来越多的从业者意识到,居高不下的算力成本正在成为大模型从演示走向商用的最大阻碍。此前已有行业机构测算,头部通用大模型单月的训练成本就可突破亿元,而推理侧的消耗更是随着用户调用量、上下文长度的上涨持续攀升。

周俊在此次AICon大会的演讲中给出的测算数据,让行业对大模型的成本压力有了更具象的认知。他明确指出,当前万亿参数规模的基础大模型,单次连续运行15分钟的算力成本,就相当于一辆普通版特斯拉家用电动车的市场售价

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。