AI搜索头部企业Perplexity近日正式面向Mac用户上线混合计算(Hybrid Compute)功能,该架构通过开源的本地分类器作为权限门控,可将计算任务自动拆分至云端AI代理与本地大模型分别运行,在规避敏感数据上传风险的同时,可将单任务处理延迟平均降低38%,同时减少约32%的云端算力消耗。
此次上线的功能首批覆盖搭载M2及以上系列自研芯片的Mac设备,用户升级至最新版Perplexity客户端后即可默认开启该模式,无需手动调整模型调用路径或额外付费订阅高阶功能。
当前大模型落地始终面临两组核心矛盾:纯云端部署的模型虽然推理能力强,但用户数据需要上传至服务商服务器,存在隐私泄露风险,且网络波动时会出现明显的响应延迟;纯本地运行的小模型虽然隐私性好、响应快,但参数规模有限,无法处理复杂的多轮推理、全网信息检索类任务。
端云协同的混合计算架构正是为了解决这一痛点诞生,此前苹果、谷歌等消费电子厂商均已在自有系统中落地相关能力,但面向第三方AI应用的通用混合计算框架始终处于空白状态,Perplexity此次的产品落地恰好填补了这一领域的缺口。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录