AI@NEWS

双DGX Spark运行DeepSeek实测

双DGX Spark配合旧3090主机,以2.75bpw量化实现256K上下文和高速结构化输出。

推荐理由:实测将双DGX Spark的张量并行与旧3090主机的Engram卸载结合,256K预填充超2600词元每秒,说明异构本地部署可突破统一内存与长上下文吞吐瓶颈。

阅读原文