法国人工智能初创企业ZML近期正式发布免费软件ZML/LLMD，该产品可支持在多类型AI芯片上实现推理加速，直接降低大模型部署与运行成本。这家初创公司此前已获得图灵奖得主、深度学习泰斗Yann LeCun的公开背书，是当前欧洲AI基础设施赛道最受关注的创业项目之一。
在大模型规模化落地的当下，推理成本高、异构芯片适配难已经成为横亘在AI开发者面前的两大核心难题。尤其是中小规模的AI创业团队，往往没有足够的技术精力覆盖英伟达、AMD、ARM等不同架构AI芯片的适配工作，也很难承担长期高额的推理算力开支。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号