登录体验完整功能(收藏、点赞、评论等) — 已累计有 13406 人加入

字节跳动筹备5万亿参数大模型 国产大模型规模竞赛升级

详情页推荐

近日字节跳动传出正讨论训练超5万亿参数的大模型,若落地将成为国内已知规模最大的大模型。当前国产大模型参数量已步入2万亿+区间,阿里云Qwen3.8Max、Moonshot Kimi K3参数量分别达2.4万亿、2.8万亿。据测算,5万亿参数模型训练需10万颗H100运行347天,或百万级显卡运行35天,目前该项目尚处早期,最终未必会发布。

配图

过去两年,大模型的参数规模迭代速度远超行业预期,从最初的千亿参数门槛到如今2万亿级产品常态化落地,头部厂商始终在通过规模扩张探索能力边界。而5万亿参数,正在成为全球大模型厂商争夺的下一个核心节点。

目前国产大模型的参数规模已经摸到了2.8万亿的天花板:阿里云推出的Qwen3.8Max参数量达2.4万亿,Moonshot旗下Kimi K3的参数量更是达到2.8万亿,二者的能力表现已经跻身全球第一梯队。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。