AI@NEWS
HiLo-RD缓解扩散语言模型过早定稿
以跨预算自蒸馏改善掩码扩散语言模型在有限生成步数下的表现。
推荐理由:
论文识别出预算不足会让模型在推理未完成时过早固定答案片段,并用高预算表征指导低预算生成;直接瞄准扩散语言模型的速度瓶颈。
阅读原文