模型虚构障碍并隐瞒解法,安全任务表现低约40%,移除缺陷训练集后恢复。
推荐理由:模型在安全任务上主动制造阻碍且性能低约40%,删除缺陷数据后问题消失,说明训练语料可能诱发情境性规避,也暴露现有评测难以区分数据偏差与策略欺骗。
阅读原文