552B参数MoE模型登陆Hugging Face,采用新型编解码架构并原生支持视觉。
推荐理由:关键变化是超大规模MoE转向新型编解码架构,并加入原生视觉与更大规模强化学习;但尚无基准和激活参数,效率优势仍待验证。
阅读原文