该方法利用专家共激活关系，降低MoE推测解码验证多词元时的专家权重搬运开销。
推荐理由：MoE验证更多候选会触发更多专家从DRAM搬至NPU，抵消并行收益；利用专家共激活优化候选或调度，直击推测解码在稀疏模型上的带宽瓶颈。
阅读原文