美国开源权重模型采用8160亿总参数、420亿激活参数，支持百万上下文与原生多模态。
推荐理由：以仅420亿激活参数承载8160亿总容量，并把百万上下文、多模态和智能体能力合入同一模型，显示稀疏架构正转向复杂工程任务。
阅读原文