Deepseek绕开CUDA?误读!
Deepseek绕开英伟达CUDA的事情,最近引起了很多讨论。实际上这是一条被误传的信息,Deepseek可能没有直接使用CUDA,而是直接对PTX进行优化,但问题在于目前市面上绝大多数的PTX仍然是CUDA生态的一部分。因此,说Deepseek完全绕开了CUDA,打破了英伟达的垄断并不准确,想要做到这一点需要中国公司继续在国产硬件替代上发力。
如果你需要调用硬件进行计算,那么你就需要编写一个指令集,这就需要使用高级编程语言。如果你使用的硬件是英伟达的,那么就需要使用他们家的工具CUDA。英伟达的官方网站是这么描述CUDA的:CUDA是由 NVIDIA 开发的一个并行计算平台和编程模型,用于图形处理单元 (GPU) 的通用计算。通过 CUDA,开发人员可以利用 GPU的能力极大地提高计算应用程序的速度。在使用CUDA时,开发人员可以使用多种流行的编程语言,例如C语言、Python。
也就是说,英伟达的CUDA可以理解为一种协助开发的工具,你如果要使用英伟达的显卡,那么一般来说使用CUDA就是最省事,较为效率的办法。
英伟达的PTX(Parallel Thread Execution 并行线程执行)是什么呢?它是一种低级别的并行线程执行虚拟机和指令集架构。PTX将 GPU暴露为数据并行计算设备。PTX能够针对CUDA和像C语言这样的高级语言编译器生成PTX指令。接下来,PTX将被进一步编译为SASS(流式汇编程序),一种相当接近二进制机械语言的指令,以便在特定型号的GPU上执行。这些过程是即时演算的。
如图所示,CUDA和PTX的关系并不是互相取代的关系,而是CUDA高级语言到PTX低级语言,最后到二进制语言的上下层关系。
现在国内外网传的说法是,Deepseek不使用CUDA而是直接使用低一层级的PTX汇编语言进行编程,从而绕过了CUDA的垄断。这个说法的问题在于,英伟达的PTX仍然是CUDA生态的一部分,而且如果想要在英伟达的显卡上执行指令,仍然需要将PTX进一步编译为更低级的机械代码SASS,执行这一步骤的编译工具仍然是CUDA的一部分。
Deepseek绕开了CUDA的说法是怎么来的?最早这还真不是中文互联网上的消息,而是韩国未来资产证券的研究员提出的说法,随后被数个英文技术交流论坛转载,并加以评论,最终被引进到了中文互联网社区。所谓突破CUDA护城河的说法,便进一步演变而来。目前,Deepseek方面并没有对于这种说法发表正式评论。
而且直接使用PTX编程的说法听起来相当惊人,因为其作为低一级的汇编语言,对于人类来说相当难以理解。并非是不能直接用其编程,而是效率较低,难度过高。之所以说C语言、python等高级语言“高级”,是因为其更加接近人类思维逻辑,便于人类使用。PTX、SASS的“低级”在于它更不便于人类理解,更接近机械逻辑。
我们以此可以做出两个推论,一,深度求索里有极其天才的工程师,完美理解PTX,只用PTX,推理速度更是无人能及,一手PTX编程大法炉火纯青。这个可能性不是很高,这都快成战锤里机械神教的技术神甫了,开口就是01001二进制语言。因此,我觉得第二个推论可能更靠谱,深度求索的天才工程师们部分使用PTX编程,对上一级语言的运行效率进行了优化,以至于不需要那么高算力的显卡,就可以训练出Deepseek这样极其强大的模型。
为什么要这么做?大概率就是因为深度求索没有那么多的高算力显卡,所以必须尽可能提高使用效率。
进一步讲,有些网传说法就显得很可笑了。美国人工智能数据基础公司Scale AI创始人兼首席执行官Alexandr Wang在接受CNBC采访时称,DeepSeek拥有大约五万块英伟达H100芯片。你是说英伟达顶着拜登的禁运,给中国卖了5万块卡?这等于是在说美国监管机构不存在了,反华战略不存在了,老黄是敌特。简直是顶级反美宣传,侮辱性不亚于把拜登的头拧下来当球踢那种。
所以讲Deepseek还是要现实一点,目前其攻破的只是算力护城河,告诉了全世界不需要顶级算力,也能出顶级模型。这必然会打击英伟达的溢价空间,但由于英伟达一系列软硬件生态的存在,突破垄断仍然任重而道远。
另外,从定义上讲,什么叫真正的绕开了CUDA?其实就是绕开了整套英伟达生态。摩尔线程就有自己的CUDA替代品MUSA。而英伟达在维护自己的护城河上也是不遗余力,去年3月就禁止了CUDA的转译,这不只是针对中国企业,也是针对所有的竞争对手。看看,什么叫做真技术封建主义啊?
总之,Deepseek绕开CUDA的说法,是一种并不精准的片面解读。像摩尔线程、华为昇腾,这些完完全全的国产替代才是真叫绕开了CUDA。而Deepseek方面正在积极适配各种国产替代平台,这也会反过来促进国产替代技术的发展。毫无疑问,Deepseek能极大程度地提升中国产业界攻坚高新技术的信心,而这将是一个开始,更加激烈的斗争还在后面呢。