AI@NEWS

KVA投影器将预填充提速最高1.85倍

Qwen3.8 Flash Next预填充达3150词元每秒,但困惑度上升8%。

推荐理由:KVA投影器按层启用可把预填充从1700提升至最高3150词元每秒,代价是困惑度增加2.6%至8%,为原生不支持该机制的模型提供可调性能路径。

阅读原文