AI@NEWS

QEngine双5090解码达504词元每秒

实测QEngine运行Qwen3.8-Flash-Next,单流解码速度领先其他引擎约1.5至1.9倍。

推荐理由:在双RTX 5090与26.2万上下文配置下,QEngine单流解码达到504词元每秒,并以KV缓存转存内存降低闲置会话成本,显示消费级多卡推理仍有显著优化空间。

阅读原文