AI@NEWS

DeepSeek量化模型跑在RTX 3090

用户测试DeepSeek-V4-Flash低比特量化版本在单张RTX 3090上的生成效果。

推荐理由:单卡RTX 3090运行IQ2_XS量化大模型能产出可用结果,说明消费级显卡上的极低比特推理仍有实用空间;但这是社区样例,缺少系统指标和可复现实验。

阅读原文