RMDM利用文本表征联合协调多掩码词更新,缓解并行采样导致的语义不连贯。
推荐理由:关键变化是把多个掩码位从独立预测改为表征层联合协调,在保留扩散语言模型并行生成优势的同时,补上全局依赖建模短板。
阅读原文