我可以帮您推荐合适的AI工具,有什么需要帮忙的吗?
近期人工智能创企Liquid AI正式发布端侧混合专家(MoE)大模型LFM2.5-8B-A1B,该模型总参数规模达83亿,单轮推理仅激活15亿参数,支持最长128K token上下文窗口,在保持端侧部署低功耗、低延迟优势的同时,推理能力可对标同等活跃参数规模的通用大模型,为消费级终端搭载本地AI功能提供了新的技术路径。
过去两年端侧AI落地始终卡在“性能与功耗不可兼得”的悖论里:参数规模太小无法支撑复杂推理,参数太大又会超出手机、车载终端等消费级设备的算力上限,厂商不得不反复在体验和续航之间做权衡。
当前绝大多数消费级电子设备的AI功能仍然依赖云端算力支撑,用户发送的指令需要上传到远端服务器处理后再返回结果,不仅会产生明显的延迟,在处理隐私数据时也存在泄露风险。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录