2026年7月23日，AI芯片初创公司Acrab正式发布首款边缘AI终端SoC GΞLIX 1。该芯片采用5nm制程打造，基于异构计算架构实现650TOPS的AI总算力，性能是高通骁龙X Elite、英特尔酷睿Ultra系列旗舰NPU的十余倍，核心亮点为可完全脱离云端，本地运行1000亿参数规模的大语言模型。很长一段时间里，端侧设备运行大模型的参数上限都卡在百亿级别，主流消费级旗舰芯片的NPU算力普遍在40-50TOPS区间，仅能支撑70B以下参数模型的轻量化版本推理。想要用上更高参数的大模型，用户必须将数据上传至云端服务器，不仅要承担网络波动带来的延迟，医疗、金融、工业等敏感场景的数据泄露风险更是难以规避。过去两年，端侧大模型的落地需求增长迅猛，但算力短板始终是最大限制：自动驾驶场景下，云端推理的延迟可能导致避险操作慢半拍；涉密办公场景下，核心数据上传云端存在泄露风险；智能家居场景下，网络波动会直接影响智能助手的响应速度。 此前行业普遍认为，要实现千亿参数大模型的端侧运行，至少还要2-3年的技术迭代，Acrab的新芯片直接把这个时间点大幅提前。作为一家成立仅3年的AI芯片初创公司，A...
滇公网安备 53252802528133号