aFMLM把令牌预测顺序编码进异步流映射,实现单步并行生成。
推荐理由:方法试图同时获得有序预测的质量收益与单步并行的速度,通过令牌级异步流把生成次序写入流映射;若质量可比迭代模型,将改变并行生成的延迟边界。
阅读原文