WASTE声称可用29GB内存运行Kimi K3,但速度仅0.50 tok/s。
推荐理由:29GB内存跑起大模型的关键信息在于权重流式调度,而非速度;0.50 tok/s显示它更像可验证性和低成本实验方案,离交互式生产推理仍远。
阅读原文