双DGX Spark运行DeepSeek实测
双DGX Spark配合旧3090主机,以2.75bpw量化实现256K上下文和高速结构化输出。
推荐理由:实测将双DGX Spark的张量并行与旧3090主机的Engram卸载结合,256K预填充超2600词元每秒,说明异构本地部署可突破统一内存与长上下文吞吐瓶颈。
双DGX Spark配合旧3090主机,以2.75bpw量化实现256K上下文和高速结构化输出。
推荐理由:实测将双DGX Spark的张量并行与旧3090主机的Engram卸载结合,256K预填充超2600词元每秒,说明异构本地部署可突破统一内存与长上下文吞吐瓶颈。