AI@NEWS

Qwen 3.8 27B低比特量化逼近BF16

ShapeLearn量化模型以3.84 bpw保留BF16综合成绩的99.63%,并覆盖六款GPU测试。

推荐理由:3.84 bpw量化在八项基准上达到BF16的99.63%,3.23 bpw仍有98.72%;结果表明该模型可用较小精度损失直接换取更高吞吐。

阅读原文