文章按prefill与decode阶段梳理TTFT、端到端延迟等推理服务指标及测量边界。
推荐理由：把首词延迟拆解为排队、预填充和网络开销，并指出连续批处理会改变并发结果；这能避免用单请求数据误判线上体验和容量规划。
阅读原文