以Nemotron 3.5 Lightning解释MoE按词元激活少量参数的容量与吞吐权衡。
推荐理由：三百亿参数模型每个词元仅激活三十亿参数，揭示MoE以稀疏路由保留总容量并降低推理计算量的核心机制。
阅读原文