用Source-Sink做Agent安全
文章讨论在Prompt Injection难以彻底防住时,如何借Source-Sink模型设计Agent安全边界。
推荐理由:把Agent安全从“识别恶意提示”转向“限制不可信输入到高危动作的流向”,更接近工程可落地的权限隔离思路,适合构建工具调用边界。
文章讨论在Prompt Injection难以彻底防住时,如何借Source-Sink模型设计Agent安全边界。
推荐理由:把Agent安全从“识别恶意提示”转向“限制不可信输入到高危动作的流向”,更接近工程可落地的权限隔离思路,适合构建工具调用边界。