昊梵体育网

17岁高中生一作的那篇论文,马斯克都点赞了。月之暗面这次是动真格,要把用了快十年

17岁高中生一作的那篇论文,马斯克都点赞了。月之暗面这次是动真格,要把用了快十年的Transformer地基重做:新优化器MuonClip训练效果接近数据量翻倍;混合注意力KDA让百万Token解码快了6倍多。这不只是技术秀,是在数据见顶、算力昂贵的当下,找一条“让每个Token更值钱”的新路。方向对了,比堆参数本质得多。 月之暗面想重做AI训练基础组件