AMD发布开放MoE模型Instella
AMD开源16B总参数、2.8B激活参数的MoE模型及完整训练产物。
推荐理由:关键不只是16B MoE本身,而是AMD把阶段权重、数据配比、配置和推理代码一起开放,意在证明MI300X/MI325X可承载从零训练生态,削弱CUDA绑定。
AMD开源16B总参数、2.8B激活参数的MoE模型及完整训练产物。
推荐理由:关键不只是16B MoE本身,而是AMD把阶段权重、数据配比、配置和推理代码一起开放,意在证明MI300X/MI325X可承载从零训练生态,削弱CUDA绑定。