AI@NEWS

smolbenchmark评测端侧小模型

新基准按速度、能效与温度实测8GB设备可运行的小模型,已覆盖13个模型家族。

推荐理由:该基准把每秒生成速度、每焦耳令牌数、延迟、功耗和温度纳入同机实测,并覆盖约千种配置,可弥补云端榜单无法指导端侧部署的缺口。

阅读原文