AI@NEWS

通信重构令DeepSeek推理吞吐增近7倍

方案称通过补齐内核并重构通信,使PCIe显卡上的DeepSeek推理吞吐提升近7倍。

推荐理由:若测试口径成立,关键不是更换昂贵硬件,而是以内核补齐和通信重构释放PCIe集群潜力;但缺少模型、精度、并发及成本数据,结论仍待验证。

阅读原文