端侧AI落地进入爆发期 消费级终端产品密集完成适配

2024年全球端侧AI落地进入加速阶段，OpenAI ChatGPT、谷歌Gemini、苹果Apple Intelligence、DeepSeek等国内外主流大模型已完成对消费级笔记本、智能手机等多类终端的适配。调研数据显示，2024年上半年发布的消费级计算设备中，72%的产品预装原生AI功能，Linux、Windows、macOS三大系统均已完成大模型底层接口打通。

主打高可维修性的模块化笔记本厂商Framework近期推出的13 Pro机型，首次在开源设备阵营实现了全栈AI能力的原生支持，无需额外下载插件即可直接调用DeepSeek、Perplexity等轻量化大模型，也支持用户自定义部署本地开源大模型，成为Linux用户群体中首个支持原生端侧AI的主流笔记本产品。这一产品的推出，也标志着端侧AI的适配范围正在从主流消费群体向小众垂直群体延伸。

此前很长一段时间，AI功能大多依赖云端算力支持，不仅需要稳定的网络环境，还存在用户数据上传的隐私风险，因此不少消费者将AI终端视作营销噱头。但随着终端芯片内置NPU算力的提升，以及大模型轻量化技术的成熟，端侧AI的实用价值正在快速凸显。

调研机构Canalys数据显示，2024年第二季度全球AI PC出货量同比增长320%，占整体笔记本出货量的27%。目前Windows、macOS阵营的主流机型均已预装AI功能，而Framework 13 Pro的发布则补上了Linux阵营的适配空白，这类主打高自由度、高隐私性的产品，恰好匹配了开发者、开源爱好者群体的使用需求。

端侧AI的普及离不开大模型厂商的技术适配，目前国内外主流大模型厂商都在推出专门面向终端设备的轻量化版本：OpenAI的GPT-4o mini已经可以在16G内存的终端设备上流畅本地运行，谷歌的Gemini Nano已预装在所有安卓14以上的旗舰机型和ChromeOS设备中，DeepSeek近期发布的端侧7B模型更是将运行内存占用压缩到8G以内，即便配置普通的轻薄本也能稳定调用。