开源编程语言Rust近日正式上线代数浮点方法功能更新,针对浮点加、减、乘、除、取余五类核心运算,依托实数代数属性实现运算流程优化。该更新可直接降低AI大模型训练、边缘端推理等场景的底层算力损耗,为开发者提供兼顾内存安全与高性能的底层开发选择。
随着生成式AI大模型参数规模迈入万亿级,底层开发环节对编程语言的性能、安全双重要求持续攀升。过往占据AI基建开发主流的C++存在内存安全隐患,而Python等上层语言性能瓶颈明显,兼具安全与高性能特性的Rust,近年已成为AI底层开发领域增长最快的编程语言。
行业测算数据显示,大模型训练、推理流程中,浮点运算的算力占比超过92%,每10%的浮点运算效率提升,就能带动整体训练成本下降7%左右。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录