经定制内核和预填充优化，八张V100实现长上下文高速本地推理。
推荐理由：八张2018年V100实现代码生成超200 token/s、128K预填充2200 token/s，表明内核优化可显著延长旧卡资产寿命。
阅读原文