新基准按速度、能效与温度实测8GB设备可运行的小模型,已覆盖13个模型家族。
推荐理由:该基准把每秒生成速度、每焦耳令牌数、延迟、功耗和温度纳入同机实测,并覆盖约千种配置,可弥补云端榜单无法指导端侧部署的缺口。
阅读原文