TokenPilot：面向 LLM agent 的缓存高效上下文管理
双粒度框架化解文本稀疏与 prompt 缓存连续性的矛盾，压低长会话推理成本。
推荐理由：直击长周期 agent 会话中 KV 缓存失效推高成本的痛点——双粒度管理既压缩上下文又保 prefix 缓存连续性，平衡文本稀疏与缓存命中。
双粒度框架化解文本稀疏与 prompt 缓存连续性的矛盾，压低长会话推理成本。
推荐理由：直击长周期 agent 会话中 KV 缓存失效推高成本的痛点——双粒度管理既压缩上下文又保 prefix 缓存连续性，平衡文本稀疏与缓存命中。