AI@NEWS

本地LLM运行电费实测

作者在Apple Silicon上用墙插功耗实测五个本地模型持续生成的真实能源成本。

推荐理由:用真实插座功耗而非标称TDP衡量本地推理,把模型大小、生成负载和电价直接换算成成本;这能校准“本地更便宜”的直觉,尤其适合边缘部署决策。

阅读原文