AI@NEWS

ThinkSafe用模型自身数据恢复安全对齐

ThinkSafe从冻结学生模型生成安全数据,避免外部教师蒸馏损伤原有推理能力。

推荐理由:论文将安全再对齐表述为KL投影,并论证学生自身通过过滤的分布是最优目标;由模型自生成拒答与安全样本,可减少外部教师分布偏移带来的推理退化。

阅读原文