通过在LoRA模型与基座模型间互换KV缓存,追踪微调行为形成的位置。
推荐理由:缓存互换可区分行为变化来自答案生成阶段,还是此前上下文表征经注意力传递所致;德语响应和涌现失调等差异表明微调效应并非只藏在输出层。
阅读原文