llama.cpp支持本地运行决策模型

用户可通过llama.cpp在设备端部署Kev-4B-GGUF决策模型，兼顾速度与隐私。

推荐理由：决策模型进入llama.cpp意味着任务路由与动作选择可在本地低成本运行，减少云端延迟和数据外泄；但帖子没有速度、内存或准确率数据。