FreeToken分支扩展消费卡MoE推理
社区分支加入DeepSeek-V4.1、视觉能力和推测解码,并提供双3090测试。
推荐理由:该分支把稀疏注意力、草稿模型及视觉链路接入CPU与GPU协同卸载框架,目标是在双3090上运行大型MoE;若数据可复现,将降低本地部署门槛。
社区分支加入DeepSeek-V4.1、视觉能力和推测解码,并提供双3090测试。
推荐理由:该分支把稀疏注意力、草稿模型及视觉链路接入CPU与GPU协同卸载框架,目标是在双3090上运行大型MoE;若数据可复现,将降低本地部署门槛。