Perplexity上线Mac端混合计算 实现云侧与本地模型智能协同

AI搜索头部企业Perplexity近日正式面向Mac用户上线混合计算(Hybrid Compute)功能,该架构通过开源的本地分类器作为权限门控,可将计算任务自动拆分至云端AI代理与本地大模型分别运行,在规避敏感数据上传风险的同时,可将单任务处理延迟平均降低38%,同时减少约32%的云端算力消耗。

此次上线的功能首批覆盖搭载M2及以上系列自研芯片的Mac设备,用户升级至最新版Perplexity客户端后即可默认开启该模式,无需手动调整模型调用路径或额外付费订阅高阶功能。

当前大模型落地始终面临两组核心矛盾:纯云端部署的模型虽然推理能力强,但用户数据需要上传至服务商服务器,存在隐私泄露风险,且网络波动时会出现明显的响应延迟;纯本地运行的小模型虽然隐私性好、响应快,但参数规模有限,无法处理复杂的多轮推理、全网信息检索类任务。

端云协同的混合计算架构正是为了解决这一痛点诞生,此前苹果、谷歌等消费电子厂商均已在自有系统中落地相关能力,但面向第三方AI应用的通用混合计算框架始终处于空白状态,Perplexity此次的产品落地恰好填补了这一领域的缺口。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。