云开发平台Vercel首席执行官Guillermo Rauch近期公开提出，AI产业应推动大语言模型与AI Agent的架构拆分，这一思路将大幅降低生产级AI应用的落地成本，优化单位算力的投入产出比，目前已有多家头部云厂商与AI应用开发商跟进测试相关方案，有望成为未来2年AI落地的核心技术路线之一。
过去一年，Vercel平台上的AI应用部署量增长了320%，但Guillermo Rauch在和客户的沟通中发现，超过六成的AI应用上线后3个月就会因为成本过高缩减服务范围，甚至直接下架。
当前行业主流的部署方案中，AI Agent的运行往往和大语言模型的推理深度耦合，哪怕是简单的日程调度、数据查询等场景，也需要调用全量大模型完成推理，导致大量算力被浪费在非必要的通用能力调用上。对面向C端的AI应用来说，单用户月均算力成本超过10元就基本丧失商业化可行性，这一门槛拦住了80%以上的中小开发者。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号