AI@NEWS
小激活模型应当联网用
作者认为5B激活参数模型不该考记忆,而应放在检索工具链中评估。
推荐理由:
核心判断是小激活MoE的价值不在内化冷知识,而在低成本执行检索和工具调用;评测目标应从记忆转向闭环任务。
阅读原文