AI@NEWS

苹果触控MacBook Pro主打本地大模型

M5 Max机型最高配备128GB统一内存,宣称可在设备端运行数千亿参数模型。

推荐理由:128GB统一内存让量化后的超大模型进入笔记本本地推理范围,价值在敏感代码与素材无需上云;但参数规模不等于速度,报道未给出吞吐与精度数据。

阅读原文