AI@NEWS

DeepSeek量化版A6000实测

用户分享DeepSeek-V4-Flash-0731量化版在RTX A6000上的推理速度和长上下文表现。

推荐理由:A6000 48GB可跑UD-Q8_K_XL并维持约17.2 token/s,提示处理在超长上下文下明显下滑,说明长上下文可装载不等于可高效使用。

阅读原文