Bonsai 2以三值权重压缩Qwen衍生模型,可通过WebGPU在浏览器本地运行。
推荐理由:三值化将27B模型压至不足6GB,模型卡称仅为FP16体积的九分之一且保留98.2%能力;若独立评测成立,将明显降低端侧大模型门槛。
阅读原文