报道称DeepSeek正优化小模型,使部分推理负载可运行在廉价游戏GPU上。
推荐理由:若内部测试能转化为稳定部署,推理成本将从昂贵数据中心卡向消费级GPU下沉,扩大私有化和边缘部署空间;目前尚无性能数据。
阅读原文