Kimi K3权重约需1.56TB内存,完整1M上下文单用户约需1.59TB。
推荐理由:2.8万亿参数把开放权重模型带入机柜级部署时代,4-bit仍需B300/MI350X级单节点;开放不再等于可本地运行,推理栈和硬件成为护城河。
阅读原文