昊梵体育网

DeepSeek 一边建数据中心,一边把模型塞进 12GB 显卡

DeepSeek 一边建数据中心,一边把模型塞进 12GB 显卡DeepSeek V4.1 Flash,7630 亿参数,原生权重 510GB。
官方要 614GB 显存才跑得动,相当于八块 80GB 的 H100。
一周后,社区把它量化到 155GB,塞进一张 12GB 的显卡。
而 DeepSeek 自己,正在建一座一年耗电 80 亿度的数据中心。
这两件事,其实在说同一件事:AI 的边界,卡在算力和电上。
模型越堆越大,电费先扛不住了我这两年一直在折腾算力,最大的感受不是卡贵,是电贵。
上个月我们团队跑一个 70B 的推理任务,租了台四卡 A100,一小时 40 块。
真到月底看账单,电费那一栏,比租金还让我肉疼。
一块 H100 满载三百多瓦,一屋子卡跑起来,电表转得跟电风扇似的。
模型在膨胀,电也在跟着烧。
DeepSeek 这轮去乌兰察布建的数据中心,规划 1GW,一年耗电超过 80 亿度。
选址逻辑就一句:那边风电加光伏,电价全国最低。
连最烧得起钱的团队,都得先把电费算明白,这已经很说明问题了。
堆参数这条路,快走到尽头了前几年,圈里的共识是:参数越大,模型越聪明。
于是从百亿堆到千亿,从千亿堆到万亿,训练一次的电费成了天文数字。
但堆参数的红利,正在肉眼可见地递减。
参数翻一倍,能力往往涨不到两成,电费倒是实打实地翻番。
这条路,越来越像拿电费换面子,不划算了。
同样是 70B 的模型,两年前要一整柜机器才跑得动,现在一张 24GB 的卡就能凑合。
所以技术路线开始转向,从"更大"往"更省"走。
763B 塞进 12GB 显卡,能效成了新战场转折就发生在这一个星期。

有团队把 DeepSeek 的 7630 亿参数模型,用量化方案压到原来的三成。
这套方案叫 GSQ-RCO,出自 ISTA-DASLab;配合的引擎叫 Strata,核心是冷权重按需换页。
原生 510GB 的权重,瘦成 155GB,再配一套把冷权重放硬盘里按需调取的引擎。
结果一张 12GB 的游戏显卡,配 64GB 内存加一块 SSD,就能把这个大家伙跑起来。
实测数据更有说服力。
有人用 RTX 5090 跑,解码 27 tok/s;有人让模型现做了一个 Minecraft 风格 3D 游戏,两小时跑完。
还有人用四台 DGX Spark 组集群,单流干到 87.7 tok/s,上下文能装 75 万个词。
慢是慢了点,但"能跑"这件事本身,已经把窗户纸捅破了。

省下的不是钱,是电算一笔电费账就清楚了。
原生权重要 614GB 显存,得八块 H100 摞一起,满载随便就是几千瓦。
按一小时五六度电算,跑一天的电费,够一个普通家庭用一个月。
现在一张 12GB 显卡两百来瓦,加条内存加块 SSD,就能干差不多的活。
同样一份推理任务,耗电差着几十倍。
这才是最要命的地方。
AI 的下一步,不是造更烧电的巨无霸,而是用更少的电,干更多的活。
谁能把一度电的产出做到极致,谁才真正握住了未来。

从"越大越好"到"越省越强"我的判断是:AI 的发展边界,从来不在想象力,而在算力和电这两根绳子上。
堆参数的蛮力时代,已经见顶了;拼能效的精耕时代,才刚刚开始。
模型还会更强,但路径已经变了——从"越大越好",到"越省越强"。
以前比的是谁家参数多,往后比的是谁家一度电出活多。
这也是我第一次觉得,AI 的"现实",不是发布会上的参数,而是机房里那张电费单。
参数可以靠堆,电费却躲不掉,这笔账谁都绕不过去。这大概就是 AI 走进现实最硬的一课。
说到底,AI 拼到最后,拼的是能源账。
你愿意为了把顶级模型装进自己机箱,去配一张 5090 吗?还是继续用云端省心?评论区聊聊。
#探寻人工智能,从技术到真实世界#