AI@NEWS

为Qwen 2.5加装非自回归决策头

AES以单次预填充和嵌入相似度实现分类、选择与评分决策。

推荐理由:原型绕过逐词生成,直接用末位隐藏状态匹配候选嵌入,将小模型变成低延迟决策器;但仅用约3200条样本训练一轮,泛化能力尚未得到验证。

阅读原文