少找工具,多做创作

.NET 11首个预览版发布 强化AI开发runtime与异步能力

微软近日推出.NET 11首个官方预览版,这款跨平台开发框架针对AI开发场景重点优化了运行时性能与异步任务处理能力,新增对主流AI加速硬件的原生支持,可提升生成式AI应用的并发推理效率与资源利用率。目前该版本已开放全球测试,已有多家AI初创企业提前验证其性能优势,正式版预计于2023年第四季度推出。

打开.NET 11 Preview 1的官方更新文档,最醒目的变化莫过于运行时模块的重构——其中专门针对高并发AI服务的异步调度逻辑被重新设计,相关代码变更占比超过总更新量的三分之一。不同于以往面向通用开发的版本迭代,微软此次将AI开发者的核心痛点作为了优化优先级。

近年来生成式AI的商业化落地加速,企业级AI应用的并发处理、边缘部署需求不断攀升。作为长期占据企业开发市场的主流框架之一,.NET此前在AI场景适配上存在明显短板:原生运行时无法直接调用主流AI加速硬件,异步任务调度在高并发推理时会出现明显延迟,不少.NET开发者不得不额外引入Python或第三方runtime层来适配AI项目,大幅提升了开发与维护成本。

此次.NET 11 Preview 1的改进精准覆盖了两大AI开发核心需求:
其一,原生AI硬件加速适配,新增对NVIDIA TensorRT、AMD ROCm等主流AI加速库的原生支持,开发者无需额外配置中间件即可直接调用GPU/TPU的推理加速能力,减少了约40%的部署配置步骤;
其二,异步任务调度性能升级,优化了ValueTask的内存分配逻辑,将高并发场景下的异步请求处理延迟降低了22%,内存占用减少18%,尤其适合处理批量的大模型推理请求。

目前已有多家AI初创企业参与了.NET 11 Preview 1的测试。专注于企业级内容生成的初创公司WriteAI的技术负责人李明表示,他们此前基于.NET 6开发的客服聊天机器人,在峰值并发时经常出现响应超时,升级到.NET 11预览版后,并发处理能力提升了近30%,内存占用降低了17%,且无需改动核心业务代码即可完成升级。

根据微软公开的产品路线图,.NET 11正式版将于2023年第四季度正式发布,后续还将集成更多AI开发相关的原生工具:包括原生支持ONNX Runtime模型部署、与Azure OpenAI服务的无缝对接,以及针对大模型微调的轻量级运行时优化。业内分析人士指出,此次.NET 11的更新,标志着微软正在加速补齐.NET在AI开发领域的短板,有望打破Python在AI开发领域的单一主导格局,为企业开发者提供更多技术选择。

!
本文内容来源于公开互联网信息,并包含平台新增内容及用户发布内容,旨在进行知识整理与分享。文中所有信息与观点均仅供参考,不代表任何官方或特定立场,亦不构成任何操作或决策建议,请读者谨慎甄别,详情请见完整免责声明
所属分类
相关资讯