登录体验完整功能(收藏、点赞、评论等) — 已累计有 12311 人加入

前Databricks AI负责人推新型架构 目标将AI能耗降至千分之一

详情页推荐

前Databricks AI首席主管带队研发的新型AI底层计算架构,已通过旗下首款产品Un0图像生成系统完成可行性验证。该技术可在输出效果与传统AI系统完全对齐的前提下,将AI运行的电力成本最高降低1000倍,有望解决当前生成式AI、大语言模型产业商业化落地面临的高能耗痛点,为全球AI基础设施成本优化提供全新技术路径。

配图

当前生成式AI的算力需求正以每年10倍以上的速度增长,随之而来的高能耗问题已经成为限制产业扩张的核心瓶颈。根据行业公开数据,单个千亿参数大模型的单次预训练能耗,相当于一个普通三口之家近10年的用电总量,而面向C端的生成式AI服务,单条用户查询的推理能耗是传统搜索引擎查询的3到10倍。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。