AI@NEWS

TISD:用轨迹干预改进同策略自蒸馏

教师在分歧点主动生成替代分支,为学生补充原本无法采样的后继状态监督。

推荐理由:关键改进是把师生分歧从局部纠错信号变成轨迹分叉入口,直接补齐替代动作后的上下文监督,有望缓解同策略蒸馏受学生探索能力限制的问题。

阅读原文