当前全球AI产业掀起算力基建扩张潮,科技巨头纷纷投入万亿级资源布局大型数据中心,但算力浪费问题始终未得到有效解决。国内RISC-V架构AI芯片头部企业奕行智能研究团队测算发现,各类AI加速器实际利用率远低于理论峰值,其提出的可自主决策AI芯片技术论文,已入选计算机体系结构领域顶级学术会议,为破解算力浪费提供了新技术路径。
近年来,从海外科技巨头到国内头部AI企业,都在加速加码AI算力投入,吉瓦(GW)级超大规模AI数据中心已经成为行业标配,单座数据中心的投资规模动辄高达数百亿元。不少企业把堆算力、提峰值当成了AI竞争力的核心,但奕行智能研究团队的测算指出,当前绝大多数AI加速器的实际算力利用率,远低于芯片标注的理论峰值,大量算力在任务调度的空隙被闲置浪费,这也是当前AI训练与推理成本长期居高不下的核心原因之一。
传统AI芯片的算力调度逻辑,大多遵循“上层软件分配指令、下层硬件执行计算”的路径,指令传输和调度的延迟,会不可避免地产生算力空闲窗口。
本次奕行智能团队提出的新型架构,核心突破在于将算力调度决策权限直接下放到芯片硬件层面,芯片可以根据当前任务的负载变化,动态自主分配算力资源,不需要等待上游主控单元的调度指令,从底层架构层面压缩了算力闲置空间,从根源上提升了AI芯片的实际可用算力。
在当前全球AI芯片赛道普遍追逐峰值算力、比拼制程工艺的背景下,通过架构创新提升实际算力利用率,是一条投入产出比更高的技术路线。相当于在不升级硬件、不增加建设成本的前提下,就能“挖掘”出更多可用算力,直接降低AI企业的算力使用成本。
本次国内团队的研究成果入选国际顶会,也证明了中国AI芯片企业在底层架构创新领域已经获得了国际学术界的认可,相关技术落地后,有望进一步降低AI应用的落地门槛,加速AI产业的普及进程。