登录体验完整功能(收藏、点赞、评论等)

懒日志等优化技术落地 可降AI推荐系统近六成能耗成本

据科技媒体InfoWorld最新报道,海外技术团队通过应用懒日志、无效数据特征裁剪两项AI优化技术,在不影响用户体验的前提下,实现社交媒体推荐系统最高58%的能源成本削减,大幅降低了推荐场景的AI碳排放,为大模型落地的能耗优化提供了轻量化的可复用方案。

你每次在社交平台刷到的精准推荐内容,背后都藏着不小的能源消耗:随着全球社交平台用户规模突破40亿,每日数十亿次的feed流刷新请求,让支撑推荐逻辑的AI模型成了数据中心里的“能耗黑洞”,其碳排放规模甚至已经超过了部分国家的航空业年排放量。

据第三方行业统计,头部社交平台的推荐系统能耗普遍占到其数据中心总能耗的35%以上,每1000次用户刷新产生的碳排放,相当于一辆家用燃油车行驶1.2公里的排放量。过去十年,行业的优化方向始终集中在提升推荐准确率,为了追求0.1%的效果提升,甚至愿意增加10%的算力投入,大量日志数据被全量存储、数十项对推荐结果无影响的特征被重复计算,导致近4成算力被完全无效消耗。

这次公布的优化方案并没有更换算力硬件,也没有重构推荐模型的核心架构,而是针对两个被忽略的边缘环节做了裁剪:第一项是懒日志机制,也就是不再全量记录所有用户的交互行为,仅当用户的点赞、收藏、停留时长等交互符合预设阈值时才会上传存储,仅此一项就减少了47%的存储算力消耗;第二项是无效特征裁剪,技术团队通过多轮变量对照,直接删掉了21项对推荐准确率影响不足0.1%的用户特征,进一步降低了推理环节的算力负担。

!
本文内容来源于公开互联网信息,并包含平台新增内容及用户发布内容,旨在进行知识整理与分享。文中所有信息与观点均仅供参考,不代表任何官方或特定立场,亦不构成任何操作或决策建议,请读者谨慎甄别,详情请见完整免责声明
相关资讯
AI小创