Meta开源30B本地智能体模型
Meta以Apache 2.0开源Muse Glimmer 30B,4bit量化可在24GB显存本地运行。
推荐理由:30B模型经4bit量化压到单卡24GB显存可跑,目标不是云端榜单而是常驻本地Agent;若性能衰减确实很小,会降低私有化智能体部署门槛。
Meta以Apache 2.0开源Muse Glimmer 30B,4bit量化可在24GB显存本地运行。
推荐理由:30B模型经4bit量化压到单卡24GB显存可跑,目标不是云端榜单而是常驻本地Agent;若性能衰减确实很小,会降低私有化智能体部署门槛。