2026年5月22日,智谱联合TileRT正式面向部分企业客户推出GLM-5.1高速版API,其输出速度达到400tokens/s,刷新当前全球大模型API的速度纪录。该产品打破行业长期存在的“高性能必高延迟、高速必轻量化”的固有认知,首次在国产大模型中实现旗舰级能力与极致低延迟的融合,用户无需在响应速度与模型质量间做取舍。
不少深耕AI编程代理场景的开发者都有过类似的糟糕体验:提交大型项目重构需求后,要对着加载转圈的界面等待数分钟,才能等到逐字输出的代码方案,数十轮调用累积出来的延迟,甚至会直接打断原本连贯的开发思路。刚刚正式亮相的GLM-5.1高速版API,首先瞄准的就是这类长期被性能矛盾困扰的速度敏感型生产场景。
过去数年大模型产业高速迭代,能力边界不断拓展,但一个近乎默认的行业共识始终没有被打破:想要获得旗舰级的复杂推理、长上下文处理能力,就必须接纳更高的推理延迟,想要API输出速度达到实时可用的标准,就只能裁剪模型参数,选用牺牲能力的轻量化版本。
此前全球主流头部大模型厂商公开的通用API输出速度,大多集中在100tokens/s-200tokens/s区间,这一瓶颈直接限制了大量低延迟刚需场景的落地,不少面向终端用户的实时交互产品,只能被迫选用性能大打折扣的轻量化模型,最终影响用户体验。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录