2026年5月22日，国内人工智能企业智谱正式面向部分企业客户推出GLM-5.1高速版API，由智谱GLM团队与TileRT团队联合研发的这款大模型实现了400tokens/s的输出速度，直接刷新全球大模型公开API的速度纪录，首次打破了行业中长期存在的“大模型运行速度与性能不可兼得”的固有认知，为高并发大模型落地场景提供了全新的技术方案。
不少使用过大模型API的企业开发者都有类似体验，在高峰期的高并发场景下，原本输出顺畅的大模型经常会出现几十秒的卡顿，生成长文档、批量处理请求时等待体验极差，要提速往往只能切换性能更低的小参数模型，始终找不到两全的解决方案。
过去很长时间里，整个AI行业形成了一个近乎默认的共识：大模型的输出速度和模型的参数规模、生成质量成反比。市面上主流的通用级大模型API输出速度普遍维持在80-150tokens/s区间，想要获得200tokens/s以上的输出效率，几乎只能选用7B参数以下的轻量化模型，代码生成、复杂逻辑推理等核心能力都会出现明显折损，很多对响应速度和生成质量都有要求的场景始终无法落地。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号