SK hynix与SanDisk发布高带宽闪存标准,目标最高3TB/s以缓解AI推理瓶颈。
推荐理由:HBF把存储带宽提升到最高3TB/s的目标,瞄准推理中权重加载和KV缓存搬运瓶颈,可能改变本地大模型硬件的内存层级设计。
阅读原文