AI@NEWS

DeepSeek开源DeepInfer推理框架

框架采用Apache 2.0协议,支持V4.1-Flash及Blackwell、昇腾950数据中心硬件。

推荐理由:DeepSeek把线上使用的投机解码方案和API适配层开放给企业,但当前仅含离线推理且限特定模型与高端硬件;其价值是降低私有部署调优门槛,而非提供完整服务栈。

阅读原文