通过限定模型仅输出选项编号，用9B及更小模型在llama.cpp中实现轻量意图分类。
推荐理由：核心技巧是利用数字词元直接映射类别，绕过语法约束功能，减少解码开销与实现复杂度；适合类别固定、追求低延迟的本地推理场景。
阅读原文