AI@NEWS

大模型训练推理优化知识地图

笔记串联Flash Attention、KV Cache、投机解码及分布式训练等核心技术。

推荐理由:价值在于按显存、计算与并行瓶颈统一组织MLSys方案,并明确线性显存、共享KV及重计算等权衡,适合作为系统化查漏框架。

阅读原文