昊梵体育网

Hub 上的开源权重值多少训练费?

每次拉一个几十 G 的权重,我只会骂网速,从来没想过这堆文件背后烧了多少卡。

Thomas Wolf 这笔账算得挺粗,但我觉得方向没错。他把 Hub 上 35 家机构、72 个开源权重模型系列的最终训练,按现在的 GPU 租价折成美元,中间估计 0.95B,区间 0.78B 到 1.28B。2023 年底这个数还不到 4000 万。

这是按租价折算的训练成本,不等于谁捐了这么多钱。一半左右来自官方公布的算力,剩下靠估,微调、数据集、研发都没算,社区那九十来万个微调也不在里面。

曲线在 DeepSeek-V3 / R1 那里猛地跳了一截。

免费下载归免费下载,各家许可证不一样,拿去商用前自己翻 license 吧 😅

#人工智能 #大模型 #开源 #HuggingFace #AI