AI@NEWS

Unsloth 压缩发布本地 Kimi K3

Unsloth 发布 Kimi K3 多档量化版本,最小 1bit 为 594GB。

推荐理由:Kimi K3 从 1.56TB 压到 594GB 且 Q1 保留 78.9% 准确率,说明超大模型本地化仍需高端硬件,但量化正显著降低私有部署门槛。

阅读原文