当前生成式AI落地正逐步向自主智能体（Agentic AI）场景延伸，原本支撑云原生应用的Kubernetes架构因面向无状态短生命周期请求设计，已无法匹配AI智能体对长会话、高实时性、持久上下文的算力调度需求，全球云基础设施领域正加速研发适配Agentic AI的新型有状态计算范式，相关方案预计2025年将覆盖30%以上的企业级AI智能体部署场景。
不少部署过企业级AI智能体的技术团队都有过类似体验：原本测试环境运行流畅的客服智能体，上线接入数千用户并发请求后，频繁出现上下文丢失、答非所问的问题，排查后才发现问题出在底层算力调度架构，而非大模型本身的能力不足。
作为当前云原生领域的主流调度框架，Kubernetes从设计之初就瞄准了电商、社交等互联网应用的无状态请求场景：这类请求生命周期短、不同请求之间没有上下文关联，调度系统不需要为单次请求保留状态，因此可以灵活调度算力资源，实现极高的资源利用率。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号