作者以3090 Ti和128GB内存实现两款模型约35及130 token/s解码。
推荐理由：案例说明消费级显卡配合大内存、量化与分层加载，已可获得实用推理速度；但正文截断且缺少量化规格，数字仍需同配置复现验证。
阅读原文