AI@NEWS

FreeToken分支扩展消费卡MoE推理

社区分支加入DeepSeek-V4.1、视觉能力和推测解码,并提供双3090测试。

推荐理由:该分支把稀疏注意力、草稿模型及视觉链路接入CPU与GPU协同卸载框架,目标是在双3090上运行大型MoE;若数据可复现,将降低本地部署门槛。

阅读原文