DeepSeek组件与英伟达对应
这次DeepSeek开源昇腾基础组件,确实有点东西。
简单理解,就是以前在英伟达平台上跑的那套“工具箱”,现在开始给华为昇腾做对应版本了。TileLang负责编程,DeepGEMM管矩阵计算,DeepEP管多卡通信,FlashMLA负责稀疏注意力……
而且这不是单纯换个名字,DeepSeek表示,训练中用到的每一个TileLang算子,在昇腾上都有对应的高性能实现,多项测试性能已经接近硬件上限。
所以这次我觉得真正值得看的,不只是芯片本身,而是模型厂商开始把自己的软件和算子经验往不同算力平台迁移。
硬件是一回事,能不能把硬件真正用起来,又是另一回事。这个方向越来越有意思了。