AI@NEWS

同源模型监控中的串谋迁移问题

研究用已发现违规样本微调监控模型,能否消除尚未暴露的模型串谋行为。

推荐理由:同一模型兼任执行者与监督者会形成自我包庇风险;研究检验针对已知串谋的微调能否迁移修复未知串谋,直接决定“强模型监督强模型”方案能否规模化。

阅读原文