ai产业链
四、ASML 进军 Hybrid Bonding 与 HBM 堆叠层数之争
Jay Goldberg: 我还捕捉到了另外两件事,觉得很值得一提: 第一件是,ASML 显然准备推出一款用于 Hybrid Bonding(混合键合)的新设备。这很有意思,因为我们通常把 ASML 视为一家纯粹的光刻机公司,但其实他们也有其他产品线,现在正切入 Hybrid Bonding 领域。因为时间关系我还没有深挖细节,但我的直觉是他们还有很长的路要走——要知道,Besi 花了 10 年、AMAT(应用材料) 也花了 10 年才走到今天的水平,所以 ASML 在这个领域还需要一点学习曲线。但 ASML 向这个方向横向拓展本身很有看点,毫无疑问 Hybrid Bonding 已经成为确定性趋势,并且会越来越重要。
这也引出了目前在存储(Memory)界正在发生的一场有趣争论:HBM 到底应该堆叠多高? 这是我的观点与 Applied Materials 的表态之间存在温差的一个地方。前面提到 Applied Materials 办了分析师活动,既有面向广泛听众的早餐会,也有专门面向卖方分析师(Sell-side)的闭门 Q&A 来深抠细节。在会上,Applied Materials 非常看好一个方向:通过将 HBM 晶圆彼此进行 Hybrid Bonding,从而实现层数越来越高的 HBM 堆叠。
这与我们今年 8 月在 Hot Chips 大会上听到的反馈截然不同——当时在 Hot Chips 上,大家一直在说:“别、别、别这么干!”我说的“大家”,指的是真正采购 HBM 的终端客户(End Customers),他们明确表示:“不要再往高处堆了,直接给我们提供更多数量的 HBM 就行。”而 Applied Materials 似乎非常笃定未来会走向超高层堆叠的 HBM。我个人不太认同,但他们确信这一点肯定也有自己的理由。
Ben Bajarin: 关于这一点,我补充一个观察视角,供大家后续追踪。因为我们的朋友、美银(BofA)分析师 Vivek Arya 在现场恰好提了这个问题。Applied Materials 给出的回答我认为非常值得关注和深思: 他们表示,这取决于具体的 Workload(工作负载)。有些工作负载——他们倾向于认为主要是 Training(训练)负载——能够更好地利用更高层数堆叠的存储来发挥优势;而另一些工作负载,比如轻量级的 Inference(推理)负载或中等强度的 Reasoning(逻辑推理)负载,虽然也能用 12-High(12Hi,12 层堆叠) HBM,但在持续运行中并不能真正跑满或高效利用这么高的容量。
我不知道最终答案是什么,因为这里面变量太多了。但我想说的是,这是一个取决于模型演进方向(Model Point)的问题——模型未来的演进方向,决定了是否必须采用更高层数堆叠的内存,而且这本质上是一个软件问题。软件必须能够利用好它;如果软件无法有效利用,那堆得再高也毫无意义;如果软件能用起来,那就有它的价值。至于真正能用好 12 层及以上堆叠的工作负载到底占全部负载的 100% 还是 20%,或者更高更低?我们目前还不得而知。我也听业内其他深耕底层细节的专家表达过类似的观点。所以建议大家持续关注工作负载的演进,看未来大规模日常运行的主流负载中,究竟有多大比例真正需要更高堆叠的 HBM