昊梵体育网

【#DeepSeek全面开源DeepInfer#】#DeepSeek每卡每小时收入38美元# 10 月 20 日消息,DeepSeek 公开了 AI 业务的核心商业细节,发布 V4.1 Flash 大规模推理部署实践文章,开源推理框架 DeepInfer。这套方案主打控制推理成本,支撑大模型面向海量用户提供服务。#DeepSeek开源核心商业机密# V4.1 Flash ​

【DeepSeek全面开源DeepInfer】DeepSeek每卡每小时收入38美元

10 月 20 日消息,DeepSeek 公开了 AI 业务的核心商业细节,发布 V4.1 Flash 大规模推理部署实践文章,开源推理框架 DeepInfer。这套方案主打控制推理成本,支撑大模型面向海量用户提供服务。DeepSeek开源核心商业机密

V4.1 Flash 定下三大设计目标:兼容多厂商芯片、用常规硬件拆分 Prefill 与 Decode 任务、支持 KV Cache 缓存保留 72 小时以上,减少重复计算。依托 DeepInfer 框架,集群可实现高吞吐、低延迟的推理服务,单集群每日服务吞吐可达 155 万亿 Tokens,单卡每小时收入 38 美元(约 274 元人民币)。

不过官方并未披露集群总数、显卡总量,暂时没办法算出整体营收规模。开源底层框架,也让行业得以参考它的商业化落地思路。

你觉得这个单卡收益水平,在国内 AI 推理赛道属于什么水准?