双卡Radeon MI50本地推理实测
两张限功耗至145W的16GB MI50,以llama.cpp测试跨卡运行多种Dense与MoE模型。
推荐理由:实测重点是两张老款MI50以合计32GB显存承载单卡放不下的量化模型,并将功耗压至每卡145W,为低成本多卡本地推理提供了具体性能参照。
两张限功耗至145W的16GB MI50,以llama.cpp测试跨卡运行多种Dense与MoE模型。
推荐理由:实测重点是两张老款MI50以合计32GB显存承载单卡放不下的量化模型,并将功耗压至每卡145W,为低成本多卡本地推理提供了具体性能参照。