2B模型在浏览器内运行完整编程智能体
MiniCPM5-2B的4位ONNX版本在WebGPU中运行终端、编辑与工具调用。
推荐理由:不到2GB的模型与智能体框架全部在浏览器内运行,实测3080Ti达25 tokens/s,为离线、内网及免API密钥的本地自动化提供新路径。
MiniCPM5-2B的4位ONNX版本在WebGPU中运行终端、编辑与工具调用。
推荐理由:不到2GB的模型与智能体框架全部在浏览器内运行,实测3080Ti达25 tokens/s,为离线、内网及免API密钥的本地自动化提供新路径。