论文从可计算性出发,讨论自动审查器能否可靠批准智能体对自身组件的修改。
推荐理由:核心矛盾是审查门必须可终止且可计算,而更新是否长期安全可能对应不可判定性质;这意味着单一奖励模型无法为开放式自改进提供完备担保。
阅读原文