35B模型可用1.4GB内存运行
社区将TurboFieldfare适配Qwen 3.6 35B-A3B,在Mac上约1.4GB内存运行。
推荐理由:用SSD流式加载MoE专家把35B活跃内存压到1.4GB,线性注意力进一步降KV缓存,展示本地大模型瓶颈从内存转向I/O与页缓存。
社区将TurboFieldfare适配Qwen 3.6 35B-A3B,在Mac上约1.4GB内存运行。
推荐理由:用SSD流式加载MoE专家把35B活跃内存压到1.4GB,线性注意力进一步降KV缓存,展示本地大模型瓶颈从内存转向I/O与页缓存。