昊梵体育网

多家外媒在7月29日报道,中国AI公司月之暗面(Moonshot AI)正在积极

多家外媒在7月29日报道,中国AI公司月之暗面(Moonshot AI)正在积极寻求获取更多英伟达(NVIDIA)先进的Blackwell架构GPU,以用于训练其下一代大模型Kimi K4。

月之暗面在7月中旬发布了性能强劲的开源模型Kimi K3后,已立即着手准备下一代模型Kimi K4的研发。K4的参数量预计将从K3的2.8万亿跃升至5万亿甚至10万亿级别,对算力的需求将呈指数级增长,因此寻求更强大的Blackwell芯片成为刚需。

英伟达的Blackwell系列芯片目前在全球范围内都处于“一芯难求”的状态。摩根士丹利等机构的分析报告指出,未来12个月的产能已被预定一空,新订单的交付周期已排到明年年底。在这种背景下,月之暗面想要获得大量芯片,难度可想而知。

在算力受限的情况下,中国AI企业通过极致的工程优化和算法创新,大幅降低了对顶级硬件的依赖。

混合专家(MoE)与稀疏激活——以月之暗面(Kimi K3)和DeepSeek为代表。Kimi K3拥有2.8万亿总参数,但在推理时仅激活极小一部分专家,极大地提升了算力扩展效率;DeepSeek V4则通过自研的稀疏注意力机制,将处理百万Token的计算量大幅降低。

低精度量化训练——以DeepSeek为代表。其成功训练出使用FP8甚至更低精度的开源大模型,降低了对晶体管密度和先进制程的依赖,为国产芯片提供了新的适配方向。

端侧模型极致压缩——以面壁智能为代表。通过低比特(如1.58-bit)量化等技术,将大模型压缩到可以在手机等端侧设备上高效运行,实现了“小而强”。

美国白宫科技政策办公室官员公开指责月之暗面,称其可能通过“蒸馏”(Distillation)技术学习了美国先进模型(如Anthropic的Fable)的能力,并声称该公司已通过第三国(如泰国)获取了被禁售的英伟达GB300服务器用于训练。创作打卡赢现金

美国政府正在考虑将月之暗面列入贸易黑名单,以限制其获取美国技术。同时,华盛顿内部也在讨论是否应全面禁止使用中国开源模型,以维持美国的技术优势。