AI@NEWS

Anthropic让Claude自评对话滥用风险

Claude在每次回复后自评潜在滥用,以补足固定危害分类器的覆盖盲区。

推荐理由:自评复用模型已读取的完整上下文,边际成本较低且不受预设危害类别限制;关键变化是安全检测能力可随基础模型判断力同步提升。

阅读原文