昊梵体育网

4卡神器!DeepSeek V4.1本地速度直接打平云

有人用四张RTX PRO 6000成功把DeepSeek V4.1跑了起来,预填充直接冲到9000到10000 token每秒,解码也能稳住300到340 token每秒。这个成绩已经接近主流云端API的舒适度,编码补全、重构、长上下文几乎感觉不到延迟。
这套方案用的是Blackwell架构专业卡,每张96GB显存,四卡并行,再配合DSpark加速,权重和压缩KV基本都留在显存里,本地NVMe只在需要时补数据。以前本地大模型总是慢、易爆显存,现在重度写代码的人可以真正把云端排队和费用焦虑先放一边。
GitHub上有完整Docker部署和实测数据,硬件门槛明确,适合已经有这些卡的开发者直接上手。当算力真正握在自己手里,本地推理的体验终于从“能跑”变成了“能爽用”。