AI@NEWS

Laya开源非自回归决策模型

作者开源421M参数Laya,以ModernBERT编码器和Transformer头进行并行选项评分。

推荐理由:Laya用421M参数的双向编码器取代逐词生成,并在单张96GB显卡训练;若基准可复现,将验证小模型并行决策路线的效率潜力。

阅读原文