谷歌近日正式推出参数规模120亿的Gemma 4 12B开源大模型，首次实现消费级笔记本本地运行完整AI代理能力，无需依赖云端算力即可完成任务拆解、工具调用等复杂智能体工作。这一进展将智能体AI落地场景从云端向消费级端侧大幅推进，不过业内提示企业端落地仍需攻克硬件适配、数据安全等多重障碍。
过去用户想要使用AI代理完成日程梳理、多文档汇总等复杂任务，往往需要将交互数据上传至云端大模型，不仅受限于网络环境，也存在敏感数据泄露的风险。这一痛点正在随着端侧大模型能力的突破得到解决。
随着生成式AI的普及，用户对AI工具的隐私性、响应速度要求越来越高，端侧运行大模型成为行业主流研发方向。但此前能够支持AI代理完整能力的大模型参数普遍在30B以上，只能运行在云端服务器或者高端工作站，消费级硬件的算力不足以支撑本地运行，严重限制了AI代理的普及场景。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号