用户分享用llama.cpp在3张2080Ti上运行Qwen 3.6 27B Q5达到55tps。
推荐理由：3张11GB老卡跑27B量化模型达到55tps，说明张量切分、KV量化和草稿推测可显著延长旧GPU生命周期。
阅读原文