登录体验完整功能(收藏、点赞、评论等) — 已累计有 12370 人加入

24人硅谷初创推出AI芯片 速度超Cerebras10倍成本仅1/20

详情页推荐

24人硅谷初创推出AI芯片 速度超Cerebras10倍成本仅1/20

近日,一款来自硅谷初创公司Taalas的AI芯片HC1引爆科技圈。这支仅24人的团队多由AMD前高管组成,成立两年便交出首款产品:峰值推理速度达每秒17000个token,是当前高性能标杆Cerebras的10倍,同时成本降至1/20、功耗削减10倍,凭借把大模型直接刻在硅片上的极端方案,实现了LLM的亚毫秒级即时响应。

这款一夜之间登上硅谷热榜的芯片,其性能参数足以让行业巨头侧目。要知道,当前AI推理领域公认的高性能芯片Cerebras,峰值速度仅为每秒2000个token,HC1在速度上实现了10倍的碾压;而在成本和功耗的控制上,它更是打出了“成本减20倍、功耗降10倍”的组合拳——这意味着,大语言模型(LLM)的推理门槛被彻底拉低,同时用户能体验到真正的“零等待”交互。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。