SecPO重构提示注入对抗训练目标
SecPO针对DPO锚定不安全参考模型的问题,设计面向注入不变性的对抗训练方法。
推荐理由:论文指出Meta-SecAlign面对自适应注入时攻击成功率仍接近100%,根因是DPO被不安全参考模型牵制;SecPO转向注入不变且保留效用的目标,修正训练原则。
SecPO针对DPO锚定不安全参考模型的问题,设计面向注入不变性的对抗训练方法。
推荐理由:论文指出Meta-SecAlign面对自适应注入时攻击成功率仍接近100%,根因是DPO被不安全参考模型牵制;SecPO转向注入不变且保留效用的目标,修正训练原则。