AI@NEWS

HiLo-RD缓解扩散语言模型过早定稿

以跨预算自蒸馏改善掩码扩散语言模型在有限生成步数下的表现。

推荐理由:论文识别出预算不足会让模型在推理未完成时过早固定答案片段,并用高预算表征指导低预算生成;直接瞄准扩散语言模型的速度瓶颈。

阅读原文