AI@NEWS

类型多样性决定Transformer组合泛化

研究认为结构泛化较难源于训练数据的结构类型不足,而非模型固有缺陷。

推荐理由:论文把词汇与结构泛化差距归因于构造类型数量不均,并暗示增加结构类型即可改善迁移;这将模型能力争论转化为可由数据设计验证的问题。

阅读原文