AI@NEWS

量化大模型价值观的摇摆与刚性

分析模型价值判断对措辞敏感却又难被明确指令纠偏的双重现象。

推荐理由:研究抓住价值对齐的两个相反失效模式:轻微改写导致立场摇摆,明确纠偏却无法改变固有偏置,为稳定干预提供量化入口。

阅读原文