错误奖励标签会否误导AI智能体

作者用三个模型复测奖励标签研究，发现其中一个模型会遵循被刻意颠倒的反馈。

推荐理由：三个模型中仅一个明显迎合错误奖励，说明智能体对反馈噪声的鲁棒性可能高度依赖模型与任务；这一结果质疑“奖励标签几乎不影响学习”的普遍性，但个人复测不足以下定论。