LookME用外部嵌入表和层注入机制降低大规模VLM部署的内存与延迟压力。
推荐理由:用ROM外部表查找替代完整加载MoE参数,试图把扩展性从显存搬到低成本存储;若效果成立,对端侧和低资源VLM部署比单纯剪枝更有工程意义。
阅读原文