登录体验完整功能(收藏、点赞、评论等) — 已累计有 8639 人加入

让AI触手可及,让应用激发潜能

.NET 11首个预览版发布 强化AI开发runtime与异步能力

微软近日推出.NET 11首个官方预览版,这款跨平台开发框架针对AI开发场景重点优化了运行时性能与异步任务处理能力,新增对主流AI加速硬件的原生支持,可提升生成式AI应用的并发推理效率与资源利用率。目前该版本已开放全球测试,已有多家AI初创企业提前验证其性能优势,正式版预计于2023年第四季度推出。

打开.NET 11 Preview 1的官方更新文档,最醒目的变化莫过于运行时模块的重构——其中专门针对高并发AI服务的异步调度逻辑被重新设计,相关代码变更占比超过总更新量的三分之一。不同于以往面向通用开发的版本迭代,微软此次将AI开发者的核心痛点作为了优化优先级。

近年来生成式AI的商业化落地加速,企业级AI应用的并发处理、边缘部署需求不断攀升。作为长期占据企业开发市场的主流框架之一,.NET此前在AI场景适配上存在明显短板:原生运行时无法直接调用主流AI加速硬件,异步任务调度在高并发推理时会出现明显延迟,不少.NET开发者不得不额外引入Python或第三方runtime层来适配AI项目,大幅提升了开发与维护成本。

此次.NET 11 Preview 1的改进精准覆盖了两大AI开发核心需求:
其一,原生AI硬件加速适配,新增对NVIDIA TensorRT、AMD ROCm等主流AI加速库的原生支持,开发者无需额外配置中间件即可直接调用GPU/TPU的推理加速能力,减少了约40%的部署配置步骤;
其二,异步任务调度性能升级,优化了ValueTask的内存分配逻辑,将高并发场景下的异步请求处理延迟降低了22%,内存占用减少18%,尤其适合处理批量的大模型推理请求。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。
相关资讯
AI小创