AI@NEWS

用KV缓存定位微调行为来源

通过在LoRA模型与基座模型间互换KV缓存,追踪微调行为形成的位置。

推荐理由:缓存互换可区分行为变化来自答案生成阶段,还是此前上下文表征经注意力传递所致;德语响应和涌现失调等差异表明微调效应并非只藏在输出层。

阅读原文