昊梵体育网

手握万卡,智谱下一代参数是大还是小?

有没有人深挖过智谱GLM下一代的迭代逻辑?结合刚刚落地的1GW智算中心、还有万卡级算力集群,其实能看出很不一样的行业打法。

现在外网都在讨论:一边传闻下一代要冲击1T,对标Kimi2.7T超大MoE路线;另一边有人判断只会在现有GLM-5.2的744B规模内做深度优化,不盲目堆参数,两种说法各有支撑点。

现在行业大多是二选一:要么堆大参数冲榜单性能,要么做小模型求落地速度。但我感觉智谱目前的算力储备和技术体系,大概率要跳出这个固有套路。

1GW算力储备,意味着它已经具备扩容更大参数基座的硬件条件。智谱并未止步于堆砌参数,配合现阶段已经稳定跑出SOTA表现的成熟后训练体系(PostTrain),下一代GLM很可能是「基座规模再上一个台阶」的大参数迭代版本。

但有意思的点就在这:它不一定是只会堆规模的笨重大模型。

智谱现在的技术路线明显是算力、精调两手抓:用超大算力支撑更大基座,拉高模型上限与通用能力;再通过成熟的后训练优化,把大基座的能力下沉,兼顾小参数模型的推理效率与落地成本。

也就是说下一代很可能出现一种新形态:基座更大、性能更顶,同时保留轻量化落地的高效优势。

不管最终是冲到1T打底,还是在744B基础上迭代升级,这套底层配置,都给模型预留了很高的性能上限。

如果真是这个迭代路径,那GLM下一代的真实能力上限,大概率会超出目前行业的普遍预期,这种大小通吃的技术布局,同行确实很难直接对标。

智谱GLMAI大模型算力智算中心科技圈人工智能