llama.cpp需更新DSV4聊天模板
旧DSV4 GGUF内置模板的preserve_thinking行为在新版llama.cpp中出现问题。
推荐理由:问题指向chat template与推理行为的耦合:旧GGUF模板会让DSV4在编码代理场景变钝,直接覆盖为新版Jinja模板比传kwargs更可靠。
旧DSV4 GGUF内置模板的preserve_thinking行为在新版llama.cpp中出现问题。
推荐理由:问题指向chat template与推理行为的耦合:旧GGUF模板会让DSV4在编码代理场景变钝,直接覆盖为新版Jinja模板比传kwargs更可靠。