登录体验完整功能(收藏、点赞、评论等) — 已累计有 13241 人加入

Liquid AI发布两款开源双向编码器 CPU端8K上下文推理效率优异

详情页推荐

2026年7月,AI技术公司Liquid AI正式发布两款开源权重双向编码器产品LFM2.5-Encoder-230M与LFM2.5-Encoder-350M,两款产品均支持8192token上下文窗口,即便在CPU环境下运行长上下文推理任务也能保持极高速度,可广泛适配文本分类、语义检索、信息抽取等多类下游AI应用场景。

随着端侧AI、轻量化私有AI部署的需求爆发,行业对低算力依赖、高语义理解能力的模型组件需求持续攀升。过往主流的小参数双向编码器普遍受限于4096token以内的上下文窗口,处理长文本时要么需要分段切割损失语义,要么在CPU环境下推理速度骤降,无法满足生产级应用的要求。

不少中小团队受限于GPU算力成本,很难落地长文本语义检索、多轮对话意图识别等相关应用,闭源编码器的调用成本、数据安全风险也一直是企业级用户的核心顾虑。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。