开发者称通过ESP-NOW在三块ESP32-S3上运行5600万参数LLM。
推荐理由:5600万参数模型被拆到三块微控制器运行,真正看点不是性能而是边缘端极限部署;它展示低功耗硬件上分布式推理的可行性。
阅读原文