一项结构化输出任务从Sol迁到Luna后性能不降,token成本下降96%。
推荐理由:具体成本从每百万输入/输出5/30美元降到0.20/1.20美元,说明成熟工作流应持续重测小模型;固定用高价模型会快速积累无效推理成本。
阅读原文