AI@NEWS

56M模型跑在三块ESP32-S3上

开发者称通过ESP-NOW在三块ESP32-S3上运行5600万参数LLM。

推荐理由:5600万参数模型被拆到三块微控制器运行,真正看点不是性能而是边缘端极限部署;它展示低功耗硬件上分布式推理的可行性。

阅读原文