昊梵体育网

还有个 Hot Interconnects 2026,怎么都没人讨论? 博通要做 AI 网络里的安卓,挑战达子的 “IOS” Thor Ultra背后的战争:Broadcom如何用Ethernet重写CSP的AI网络|HotI 2026 HotI 2026公开的九份slides,主题横跨光互连、交换拓扑、传输协议、通信库和网络遥测。把这些内容拼在一起,Broadcom演讲 ​

还有个 Hot Interconnects 2026,怎么都没人讨论?

博通要做 AI 网络里的安卓,挑战达子的 “IOS”

Thor Ultra背后的战争:Broadcom如何用Ethernet重写CSP的AI网络|HotI 2026

HotI 2026公开的九份slides,主题横跨光互连、交换拓扑、传输协议、通信库和网络遥测。把这些内容拼在一起,Broadcom演讲中那张看似普通的产品组合图,反而成了理解整场大会的入口:Tomahawk Ultra负责scale-up,Tomahawk 6负责scale-out,Jericho 4负责scale-across,而Thor Ultra被放在XPU与整个网络之间。

这意味着Thor Ultra并不只是一张更快的800G网卡。它代表Broadcom开始从交换机内部走向AI数据流的源头,试图以Ethernet为基础,为拥有自研XPU的CSP搭建一套可替代NVIDIA全栈的网络架构。

Thor Ultra通过PCIe 6.0连接GPU或XPU,向外提供800G Ethernet接口。更关键的是,它支持包级多路径、乱序数据直接放入XPU内存、选择性重传和可编程拥塞控制。配合MRC,它可以让一条连接同时利用多个网络平面和最多128条路径,避免传统RoCE中一个QP被ECMP固定在单条路径上的问题。

这些功能不是规格表上的点缀。MoE训练和推理会在每层触发大规模All-to-All,大量GPU往往在同一时间向网络注入流量。普通Ethernet即使峰值带宽足够,也可能因为哈希碰撞、瞬时拥塞和丢包重传,造成GPU等待。Thor Ultra要做的,就是在数据离开XPU的第一站完成流量拆分、路径选择、拥塞反馈和故障恢复。

Broadcom由此形成了一条完整的数据路径:

XPU → Thor Ultra → Tomahawk Ultra/6 → Jericho 4 → 其他机架或数据中心

它所对应的,是NVIDIA围绕GPU建立的另一套路径:

GPU → NVLink/NVSwitch → ConnectX → Spectrum-X或InfiniBand → 其他机架

两者最大的差异,在于如何处理机架内部的scale-up。NVIDIA使用专有NVLink和NVSwitch,把72颗GPU组织成一个高带宽、低延迟的统一计算域,再通过ConnectX和Spectrum-X连接更多机架。CUDA、NCCL、GPU、NVLink、NIC和交换机由同一家公司联合优化,客户付出的代价是更高的系统溢价和更强的供应商锁定。

Broadcom则希望Ethernet逐步覆盖scale-up、scale-out和scale-across。Tomahawk Ultra把Ethernet延迟压到约250ns,并加入链路级重传、credit流控、小包线速转发和in-network collective;Tomahawk 6提供102.4Tb/s交换容量;Jericho 4用深缓存、3.2T HyperPort和线速加密,把无损RoCE延伸到100公里以上。Thor Ultra补上了此前缺失的XPU侧入口。

这里的“开放”并不是简单兼容一个标准,而是让XPU、NIC、交换机、光模块和网络操作系统可以分别采购和替换。Google、Meta、AWS等CSP可以把自己的XPU接入Broadcom网络,也可以选择不同OEM、SONiC系统和光模块供应商,不必把整个AI数据中心绑定在NVLink与ConnectX之上。

但开放不会自动转化成性能。它只是把系统优化的权力,以及相应的工程责任,交还给CSP。

AMD长达202页的通信库教程把这种“摩擦成本”展示得很清楚。同样的硬件链路,仅仅调整collective算法和数据搬运方式,性能就会发生明显变化:MI350上的copy engine collective峰值达到428GB/s;SDMA All-Gather与GEMM并行时最高获得1.21倍提升;16节点hierarchical All-Gather相较默认ring最高加速3.6倍;GPU发起的SDMA All-to-All在8颗MI355上达到395GB/s,高于默认实现的307GB/s。

这说明一条800G链路能否变成有效算力,取决于通信库是否理解GPU拓扑,能否把计算和通信重叠,能否根据消息大小选择ring、tree或hierarchical算法。NVIDIA已经通过NCCL和NVLink完成了大量预优化;采用Broadcom开放方案的CSP,则需要自己把XPU编译器、collective库、Thor NIC和Tomahawk网络调到一起。

Omnistat的案例进一步表明,很多网络问题甚至不是丢包或链路故障,而是消息粒度和流量形态。在Frontier的稀疏矩阵转置测试中,聚合小消息后,平均双向带宽从1.3GB/s提高到2.7GB/s;两种实现都没有出现丢包。没有作业级遥测,运营者只能看到网络没有跑满,却不知道问题出在算法、GPU、NIC还是交换机队列。

这正是Broadcom路线的核心交换:CSP用更高的系统集成和运维成本,换取XPU、网络和供应链的自主权。

HotI 2026的光互连材料,则解释了这套架构继续扩张所需要的物理基础。Lightmatter的仿真显示,当光互连把scale-up域从单机架扩展到多机架,模型的TP、EP和CP可以摆脱机架边界重新划分,长上下文prefill延迟有机会明显下降。Arista展示的12.8T液冷XPO LRO,则说明高密度光接口已经开始进入交换机冷板、48V供电和系统维护设计。Ethernet要承担更大规模的scale-up,最终也必须依靠BiDi、DWDM、NPO或CPO提高带宽密度和传输距离。

因此,Thor Ultra对Broadcom的意义,远大于新增一款NIC。过去Broadcom主要控制交换芯片、SerDes、光DSP和CPO;进入XPU端点后,它开始拥有从数据注入、拥塞控制到交换和跨数据中心传输的完整链路。Broadcom争夺的也不再只是交换机芯片份额,而是原本由ConnectX、NVSwitch和部分NVLink体系占据的系统价值。

这套方案短期内还很难在软硬件一体性上追平NVIDIA。Thor Ultra的800G直接对应ConnectX-8,而Rubin平台的ConnectX-9已经把单GPU scale-out带宽推进到1.6Tb/s,NVLink 6更达到每GPU 3.6TB/s。NVIDIA仍然掌握着性能上限和软件入口。

但对于具备自研XPU、编译器和网络团队的CSP,Broadcom提供的是另一种选择:付出一次又一次的工程摩擦,换取长期的平台自主权。如果UEC、MRC和开放Scale-Up Ethernet最终能在真实MoE集群中,把多厂商网络的作业完成时间和GPU利用率逼近NVIDIA全栈,那么Thor Ultra就会成为一个重要起点——AI网络的竞争,将从单颗交换芯片扩展为两种系统组织方式的竞争。