课程从推理基础和mini-sglang实现进阶到量化、分层缓存、并行及贡献真实项目。
推荐理由:课程把推理系统拆成正确性、调度、内存和服务化等递进模块,并最终连接真实源码与PR流程,比只讲API调用更能培养推理工程能力。
阅读原文