SemiAnalysis 用 Qwen3.5 397B 跑 agentic 负载，比每 1 美元 TCO 能出多少 token。英伟达新补交的 GB300 换上了 NVFP4，在大部分延迟区间还是比不过 FP8 的 TPU7x。

图里那个 1.64x，是在 P90 端到端延迟 8 秒附近竖着量的。

价格栏挺关键。外部客户口径下，GB300 每芯片每小时 2.31 美元，TPU7x 是 1.21，差不多便宜一半。所以这张图比的是花钱效率，单卡谁快另说。

另外 TPU 那条线到 11 秒左右就断了，GB300 往后一路涨到 2.3 亿以上，那一段没得比。

把整条曲线摆出来比，我觉得这种做法挺实在的。

#人工智能 #英伟达 #芯片 #大模型 #谷歌