AI@NEWS

自动化自我改进的根本判定难题

论文从可计算性出发,讨论自动审查器能否可靠批准智能体对自身组件的修改。

推荐理由:核心矛盾是审查门必须可终止且可计算,而更新是否长期安全可能对应不可判定性质;这意味着单一奖励模型无法为开放式自改进提供完备担保。

阅读原文