借助SQL能力无监督检测大模型幻觉
研究让大模型调用低层符号能力,以无监督方式辅助判断高层任务输出是否有事实支撑。
推荐理由:其新意不是再训练一个事实判别器,而是把模型已有的SQL等可执行符号能力用作外部落地检查;这为缺少标注数据的结构化场景提供了可审计的幻觉检测路径。
研究让大模型调用低层符号能力,以无监督方式辅助判断高层任务输出是否有事实支撑。
推荐理由:其新意不是再训练一个事实判别器,而是把模型已有的SQL等可执行符号能力用作外部落地检查;这为缺少标注数据的结构化场景提供了可审计的幻觉检测路径。