AI基础设施初创公司Prime Intellect于近期正式发布开源训练框架prime-rl 0.6.0版本，该版本针对智能体强化学习（Agentic RL）工作负载深度优化，首次实现万亿参数规模混合专家模型（MoE）的高效训练，依托FP8低精度计算、分离式推理架构，同硬件下训练吞吐量较现有主流方案提升37%，为超大规模通用AI智能体的研发提供了全新底层工具支撑。随着AI智能体逐步从实验室走向商业化落地，超大规模模型的强化学习训练需求正在爆发。但此前行业主流训练框架大多针对预训练场景优化，在强化学习所需的高频交互、动态数据迭代场景下效率极低，万亿参数级MoE模型的RL训练更是普遍面临硬件成本高、迭代周期长的行业痛点。不少团队训练千亿参数级智能体模型，仅硬件投入就超过千万，单轮迭代周期长达一周，严重制约了研发效率。prime-rl 0.6.0针对智能体强化学习场景做了全链路定制化优化，核心技术突破主要集中在两个方向。 其一是FP8低精度计算全链路覆盖，框架将FP8精度支持从常规的矩阵运算拓展到强化学习特有的奖励计算、梯度回传等环节，在不损失训练效果的前提下将单卡计算效率提升了近一倍。 其...
滇公网安备 53252802528133号