面向手机实测的LLM架构搜索
论文构建从LLM生成CNN到INT8导出和真机延迟反馈的移动端NAS闭环。
推荐理由:它把NAS评价从GPU精度推进到TFLite INT8、delegate和物理设备延迟;这比离线指标更接近移动部署约束,也能反向修正LLM生成分布。
论文构建从LLM生成CNN到INT8导出和真机延迟反馈的移动端NAS闭环。
推荐理由:它把NAS评价从GPU精度推进到TFLite INT8、delegate和物理设备延迟;这比离线指标更接近移动部署约束,也能反向修正LLM生成分布。