AI@NEWS

XeBoostLM用原生C++驱动英特尔本地模型

XeBoostLM基于OpenVINO GenAI,以纯C++在英特尔NPU、核显和CPU运行本地模型。

推荐理由:项目以纯C++和OpenVINO GenAI绕过Python运行时,统一利用英特尔NPU、核显与CPU,核心意义是为低依赖、易分发的端侧推理提供工程路径。

阅读原文