2GB内存运行Gemma 4 26B
Turbo-fieldfare用Swift/Metal在苹果芯片上低内存运行Gemma 4 26B。
推荐理由:26B-A4B模型内存从约14GB压到约2GB,8GB M2也能本地跑5-6 tok/s,意味着端侧大模型瓶颈开始从容量转向吞吐与工具生态。
Turbo-fieldfare用Swift/Metal在苹果芯片上低内存运行Gemma 4 26B。
推荐理由:26B-A4B模型内存从约14GB压到约2GB,8GB M2也能本地跑5-6 tok/s,意味着端侧大模型瓶颈开始从容量转向吞吐与工具生态。