AI Gateway测试统一fast参数,可自动路由到模型高速服务层。
推荐理由:把各模型的低延迟档抽象成统一speed=fast参数,降低多供应商接入复杂度;代价是更高token成本,适合把延迟敏感路径从模型选择中解耦。
阅读原文