AI@NEWS

别再只追求FP4推理速度

作者批评推理引擎用FP4极限量化换取速度,却淡化输出质量与幻觉风险。

推荐理由:核心质疑是FP4跑分把吞吐量置于任务质量之前;低比特方案若无精度、幻觉和多模型评测,所谓性能领先难以代表实际可用性。

阅读原文