登录体验完整功能(收藏、点赞、评论等)

英伟达斥200亿整合Groq技术推推理芯片,OpenAI成首批核心客户

英伟达宣布将在GTC开发者大会推出一款整合Groq尖端技术的推理专用处理器,为此已斥资200亿美元获取技术授权并收编核心团队。AI巨头OpenAI成为该芯片的首批核心客户之一,计划用其升级旗下Codex编程工具。此举旨在进一步巩固英伟达在全球AI算力市场的主导地位,也将推动AI推理算力的技术升级。

在大语言模型从实验室走向商业化落地的关键节点,推理算力的性能瓶颈正成为制约AI产业发展的核心障碍——高并发场景下的实时响应速度、单位能耗的算力输出,直接决定着AI产品的用户体验与商业变现潜力。英伟达此次的重磅布局,正是精准命中了这一赛道的核心需求。

作为全球AI算力市场的绝对主导者,英伟达此前在训练芯片领域的优势无人能及,但在推理算力的细分赛道,仍面临着来自专用架构厂商的挑战。为了补齐这一短板,英伟达不惜斥资200亿美元,一方面获取Groq的尖端推理技术授权,另一方面收编其核心研发团队,将该技术全面整合到自家的芯片产品线中。
即将在GTC开发者大会亮相的这款新处理器,是专为AI推理计算量身打造的产品。依托Groq的低延迟、高吞吐量架构,该芯片有望在大模型实时推理场景中实现性能跃升,同时降低能耗成本,帮助AI厂商在高并发场景下更高效地处理用户请求。

!
本文内容来源于公开互联网信息,并包含平台新增内容及用户发布内容,旨在进行知识整理与分享。文中所有信息与观点均仅供参考,不代表任何官方或特定立场,亦不构成任何操作或决策建议,请读者谨慎甄别,详情请见完整免责声明
相关资讯
AI小创