2026年7月，谷歌正式发布Web端AI推理加速库LiteRT.js。该产品采用WebAssembly技术，深度整合WebGPU、WebNN硬件加速能力，将替代此前推出的TensorFlow.js传统JavaScript内核，实测浏览器端AI推理速度最高提升3倍，大幅降低网页端部署AI应用的性能门槛，为Web端AI生态落地提供新的技术路径。
在搭载M4芯片的2024款苹果MacBook Pro上的实测数据显示，面对同量级的AI图像生成、大语言模型推理任务，最新发布的LiteRT.js的运行延迟比原TensorFlow.js方案低60%以上，峰值算力表现提升达3倍，甚至在未搭载独立GPU的老旧轻薄本上，也能实现基础端侧AI功能的流畅运行。
此前谷歌推出的TensorFlow.js一度是Web端AI部署的主流方案，支持开发者直接将TensorFlow训练好的模型部署到浏览器中，不需要用户额外下载客户端软件。但其基于传统JavaScript内核的架构，受限于浏览器JS运行时的性能上限，很难支撑7B以上参数大模型的端侧推理需求。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号