登录体验完整功能(收藏、点赞、评论等) —

让AI触手可及,让应用激发潜能

奕行智能AI芯片新研究入选顶会 芯片可实现自主决策

当前全球AI产业掀起算力基建扩张潮,科技巨头纷纷投入万亿级资源布局大型数据中心,但算力浪费问题始终未得到有效解决。国内RISC-V架构AI芯片头部企业奕行智能研究团队测算发现,各类AI加速器实际利用率远低于理论峰值,其提出的可自主决策AI芯片技术论文,已入选计算机体系结构领域顶级学术会议,为破解算力浪费提供了新技术路径。

近年来,从海外科技巨头到国内头部AI企业,都在加速加码AI算力投入,吉瓦(GW)级超大规模AI数据中心已经成为行业标配,单座数据中心的投资规模动辄高达数百亿元。不少企业把堆算力、提峰值当成了AI竞争力的核心,但奕行智能研究团队的测算指出,当前绝大多数AI加速器的实际算力利用率,远低于芯片标注的理论峰值,大量算力在任务调度的空隙被闲置浪费,这也是当前AI训练与推理成本长期居高不下的核心原因之一。

传统AI芯片的算力调度逻辑,大多遵循“上层软件分配指令、下层硬件执行计算”的路径,指令传输和调度的延迟,会不可避免地产生算力空闲窗口。

本次奕行智能团队提出的新型架构,核心突破在于将算力调度决策权限直接下放到芯片硬件层面,芯片可以根据当前任务的负载变化,动态自主分配算力资源,不需要等待上游主控单元的调度指令,从底层架构层面压缩了算力闲置空间,从根源上提升了AI芯片的实际可用算力。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。
相关资讯