AI@NEWS

弹性专家并行加速强化学习后训练

FlexFloor允许MoE生成阶段提前释放已完成响应占用的计算资源。

推荐理由:基线约三分之一工作节点占用发生在本地生成结束后;FlexFloor解除专家依赖造成的滞留,直接瞄准MoE强化学习后训练的主要资源浪费。

阅读原文