AI@NEWS

CPU原生10B模型突破百词元每秒

实验架构在锐龙5 3600X上以113至130词元每秒运行10B参数模型,但权重质量尚不可用。

推荐理由:其价值在于证明稀疏、三值与状态空间组合可能显著释放CPU推理吞吐;但模型质量尚未成立,且206M训练已耗时八周,离可复现方案仍远。

阅读原文