DeepSeek V4 Flash量化版发布
Atomic在Hugging Face发布14个DeepSeek V4 Flash 0731量化版本,覆盖BF16到1-bit。
推荐理由:284B MoE经MXFP4/FP8/BF16混合存储后再提供多档量化,AD-IQ2_M瞄准128GB本地硬件,实质上把超大MoE推理门槛压到高端单机/工作站级。
Atomic在Hugging Face发布14个DeepSeek V4 Flash 0731量化版本,覆盖BF16到1-bit。
推荐理由:284B MoE经MXFP4/FP8/BF16混合存储后再提供多档量化,AD-IQ2_M瞄准128GB本地硬件,实质上把超大MoE推理门槛压到高端单机/工作站级。