LFM3的1.7B模型以卷积、滑窗和全局注意力混合设计超过上一代2.6B模型。
推荐理由：24层中混用13层短卷积、5层滑窗注意力和6层全局注意力，使1.7B模型在自家智能体评测得41.29分；表明架构配比可比单纯扩参更有效。
阅读原文