Speedy长上下文推理实测领先Avalon
RTX 4090实测显示,Speedy在60K与120K上下文预填速度上大幅领先Avalon。
推荐理由:单机实测中,Speedy在60K和120K上下文的冷预填均明显快于Avalon,生成也略快;但仅一套硬件与量化配置,尚不足证明普遍优势。
RTX 4090实测显示,Speedy在60K与120K上下文预填速度上大幅领先Avalon。
推荐理由:单机实测中,Speedy在60K和120K上下文的冷预填均明显快于Avalon,生成也略快;但仅一套硬件与量化配置,尚不足证明普遍优势。