当六份投毒文档相互附和时,模型识别错误信息的能力明显下降。
推荐理由:实验把单份投毒加六份健康文档反转为六比一,并观察Gemma-3-12B在少数投毒时检测率仅25%;说明检索证据数量会被误当作可信度。
阅读原文