AI@NEWS

封闭世界解析抑制智能体工具幻觉

研究指出工具门控无法拦截不存在的工具调用,并提出封闭世界解析思路。

推荐理由:关键发现是虚构工具调用绕过了以真实工具为前提的选择与门控机制,暴露智能体安全栈的结构性缺口,防线必须前移至调用解析与模式校验。

阅读原文