2024年全球范围内已有32%的生成式AI落地企业正在测试无服务器AI部署方案，亚马逊云科技、微软Azure、谷歌云等头部云厂商已先后上线对应的推理、微调全流程托管服务。该技术通过抽象算力调度环节大幅降低AI落地门槛，但企业也需针对自身工作负载特性选择适配方案，避免隐形成本超支。
过去一年，大量尝试布局生成式AI应用的中小团队都遇到了相似的困境：如果采购实体服务器或者预留长期云算力，业务波谷时段的算力闲置率普遍超过60%；如果按需购买临时算力，又需要专门的技术团队完成集群扩缩容、CUDA优化等底层工作，人力成本同样居高不下。
随着大语言模型、多模态生成技术的普及，企业对AI算力的需求正在呈指数级增长，但算力成本不可控已经成为AI规模化落地的最大阻碍。第三方调研数据显示，2023年国内生成式AI应用的平均算力成本占整体运营成本的42%，其中人员规模不足50人的中小团队，算力成本占比更是超过60%。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号