AI@NEWS
量化大模型价值观的摇摆与刚性
分析模型价值判断对措辞敏感却又难被明确指令纠偏的双重现象。
推荐理由:
研究抓住价值对齐的两个相反失效模式:轻微改写导致立场摇摆,明确纠偏却无法改变固有偏置,为稳定干预提供量化入口。
阅读原文