论文提出近似与精确的词元到字节概率转换，并比较字节模型和词元模型蒸馏。
推荐理由：关键基础设施是把教师的词元概率转换为字节概率，从而首次公平比较两类模型的蒸馏扩展曲线；结果可能改写小模型对词表的依赖。
阅读原文