AI@NEWS

DeepSeek V4 Flash单卡加速

Krasis称DeepSeek V4 Flash在RTX PRO 6000上长提示预填充达1328 tok/s。

推荐理由:亮点是单张96GB卡用INT4 experts把长上下文prefill推到千tok/s级,但decode仍约29 tok/s且62K后降至19 tok/s,说明瓶颈正转向注意力解码。

阅读原文