系统讨论扩散语言模型的训练与推理,以并行生成缓解自回归解码瓶颈。
推荐理由:论文直面逐词生成无法充分利用并行硬件的问题,给出扩散语言模型的完整构建路径;其意义在于把推理扩展从串行令牌计算转向并行迭代精炼。
阅读原文