AI@NEWS

借助SQL能力无监督检测大模型幻觉

研究让大模型调用低层符号能力,以无监督方式辅助判断高层任务输出是否有事实支撑。

推荐理由:其新意不是再训练一个事实判别器,而是把模型已有的SQL等可执行符号能力用作外部落地检查;这为缺少标注数据的结构化场景提供了可审计的幻觉检测路径。

阅读原文