Strata采样参数配置方法
可在运行配置中设置temperature、top_p和top_k默认值,请求参数优先覆盖。
推荐理由:关键信息是Strata支持未写入顶层README的sampling配置块,并采用请求级参数优先规则,可统一默认采样行为而不限制单次调用。
可在运行配置中设置temperature、top_p和top_k默认值,请求参数优先覆盖。
推荐理由:关键信息是Strata支持未写入顶层README的sampling配置块,并采用请求级参数优先规则,可统一默认采样行为而不限制单次调用。