昊梵体育网

#DeepSeek组件与英伟达对应# 这次DeepSeek开源昇腾基础组件,确实有点东西。 简单理解,就是以前在英伟达平台上跑的那套“工具箱”,现在开始给华为昇腾做对应版本了。TileLang负责编程,DeepGEMM管矩阵计算,DeepEP管多卡通信,FlashMLA负责稀疏注意力…… 而且这不是单纯换个名字,DeepSeek表示, ​

DeepSeek组件与英伟达对应

这次DeepSeek开源昇腾基础组件,确实有点东西。

简单理解,就是以前在英伟达平台上跑的那套“工具箱”,现在开始给华为昇腾做对应版本了。TileLang负责编程,DeepGEMM管矩阵计算,DeepEP管多卡通信,FlashMLA负责稀疏注意力……

而且这不是单纯换个名字,DeepSeek表示,训练中用到的每一个TileLang算子,在昇腾上都有对应的高性能实现,多项测试性能已经接近硬件上限。

所以这次我觉得真正值得看的,不只是芯片本身,而是模型厂商开始把自己的软件和算子经验往不同算力平台迁移。

硬件是一回事,能不能把硬件真正用起来,又是另一回事。这个方向越来越有意思了。