ReTopK通过复用历史Top-K检索决策，降低长上下文动态稀疏注意力选择成本。
推荐理由：Top-K稀疏注意力的瓶颈仍是全KV打分选择；训练无关地复用历史检索，直接瞄准长上下文解码的线性选择开销。
阅读原文