昊梵体育网

【#DeepSeek一张卡每小时收入258.4元#】10月20日,DeepSeek宣布开源推理框架DeepInfer,该推理框架兼容英伟达与华为昇腾芯片。该公司随后在知乎发布了技术报告《DeepSeek-V4.1-Flash 大规模推理部署实践》,并在全球最大开源社区GitHub发布了源代码。 该技术报告披露了一组罕见的经营数据:目前DeepSe ​

【DeepSeek一张卡每小时收入258.4元】10月20日,DeepSeek宣布开源推理框架DeepInfer,该推理框架兼容英伟达与华为昇腾芯片。该公司随后在知乎发布了技术报告《DeepSeek-V4.1-Flash 大规模推理部署实践》,并在全球最大开源社区GitHub发布了源代码。

该技术报告披露了一组罕见的经营数据:目前DeepSeek单一集群的服务吞吐是155万亿 Tokens(词元)/天,整体收入是每卡每小时38美元(约合258.4元,按波谷定价)。

DeepSeek也是国内第一家披露单卡收入和Token吞吐规模的模型公司。不过,该报告没有披露该集群的芯片型号与数量,没有给出单卡收入的完整计算口径,也没有给到单一集群155亿Token吞吐的计算过程。只说明实际部署中预填充与解码卡数比例接近1:1。

推理框架是连接模型与芯片的中间层软件。用户每发出一次请求,都由推理框架分配到具体芯片上完成计算。

因此,即便模型与芯片相同,在推理框架不同的情况下,Token吞吐量与最终的推理成本也可能相去甚远。这会导致云计算厂商、模型厂商的利润率出现显著差距。(财经杂志)