打破英偉達(dá)CUDA壁壘？AMD顯卡現(xiàn)在也能無縫適配CUDA了

電子發(fā)燒友網(wǎng)報(bào)道（文/梁浩斌）一直以來，圍繞CUDA打造的軟件生態(tài)，是英偉達(dá)在GPU領(lǐng)域最大的護(hù)城河，尤其是隨著目前AI領(lǐng)域的發(fā)展加速，市場(chǎng)火爆，英偉達(dá)GPU+CUDA的開發(fā)生態(tài)則更加穩(wěn)固，AMD、英特爾等廠商雖然在努力追趕，但目前還未能看到有威脅英偉達(dá)地位的可能。

最近一家英國(guó)公司Spectral Compute推出了一款方案，可以為AMD的GPU原生編譯CUDA源代碼，目前正在RNDA2、RDNA3上進(jìn)行規(guī)模測(cè)試。這或許可以打破CUDA與英偉達(dá)GPU的生態(tài)壁壘？


SCALE編譯器

Spectral Compute據(jù)稱花了7年時(shí)間開發(fā)SCALE，SCALE不依賴英偉達(dá)的代碼，而是通過一些開源LLVM組件等，建立了其CUDA兼容的工具鏈，讓SCALE在多個(gè)平臺(tái)之間能高度兼容。

其實(shí)在以往也有一些其他GPU硬件兼容CUDA的方式，比如AMD支持的ZLUDA推出的開源移植項(xiàng)目，通過重新編譯二進(jìn)制代碼，就能夠讓CUDA庫(kù)在AMD自家的ROCm上運(yùn)行，令A(yù)MD GPU適配CUDA生態(tài)。

但SCALE的特性在于，可以避免代碼移植的步驟，開發(fā)人員可以使用單一版本的代碼庫(kù)，因?yàn)镾CALE本身與CUDA的源代碼兼容，這大大提高了可用性。

Spectral Compute的CEO Michael Sondergaard表示：我們相信，只需要編寫一次代碼，就可以在任何硬件平臺(tái)上運(yùn)行它，對(duì)于CPU代碼來說，這已經(jīng)實(shí)現(xiàn)很多年了，那為什么GPU不行呢？我們著手通過彌合主流的CUDA編程語(yǔ)言和其他GPU硬件供應(yīng)商之間的兼容性差距，來直接解決這個(gè)問題。

Michael 還提到：“應(yīng)該構(gòu)建一個(gè)圍繞GPU的開源生態(tài)系統(tǒng)，類似目前CPU所享有的生態(tài)環(huán)境，同時(shí)確保不同平臺(tái)間的互聯(lián)互通。”他認(rèn)為，通過SCALE可以彌合CUDA與其他硬件供應(yīng)商之間的兼容性鴻溝，從而打破市場(chǎng)上存在的壁壘。

據(jù)介紹，SCALE是一種通用并行GPU工具包，其功能與英偉達(dá)的CUDA工具包相仿，它能夠在編譯CUDA代碼的同時(shí)，為非英偉達(dá) GPU生成相應(yīng)的二進(jìn)制文件，這樣就徹底避免了對(duì)翻譯層的依賴。

目前，SCALE已經(jīng)在多種軟件中成功運(yùn)行，比如Blender、Llama-cpp、XGboost、FAISS、GOMC、STDGPU、Hashcat和NVIDIA Thrust等專業(yè)軟件，這些軟件已經(jīng)可以在RDNA2和RDNA3的AMD GPU上正常使用CUDA。

不過SCALE本身不是開源的，但用戶可以通過免費(fèi)的軟件許可使用這個(gè)功能，這或許是為了規(guī)避英偉達(dá)針對(duì)CUDA兼容而出臺(tái)的EULA條款。

其他廠商兼容CUDA的努力

市場(chǎng)上其實(shí)并不缺乏CUDA的挑戰(zhàn)者，包括AMD的ROCm，開放標(biāo)準(zhǔn)聯(lián)盟Khronos Group聯(lián)合旗下成員打造出的SYCL編程語(yǔ)言等，而英特爾也與SYCL深度綁定，希望打破CUDA的統(tǒng)治。

當(dāng)然，對(duì)于AMD和英特爾這樣的巨頭而言，他們有資本去嘗試構(gòu)建一個(gè)新的生態(tài)，但對(duì)于更多的初創(chuàng)公司和中小規(guī)模公司而言，兼容就是成本最低的路線。

比如國(guó)內(nèi)的GPU初創(chuàng)公司摩爾線程，基于MUSA的統(tǒng)一架構(gòu)推出了多款GPU產(chǎn)品，并打造了軟件開發(fā)平臺(tái)，包括AI開發(fā)平臺(tái)、MUSA SDK、MT Smart Media和MTVerse XR等。

而這套生態(tài)架構(gòu)可以充分兼容現(xiàn)有的軟件生態(tài)，能借助MUSIFY工具實(shí)現(xiàn)代碼零成本遷移到MUSA平臺(tái)，也包括對(duì)CUDA生態(tài)的兼容。

在2021年的時(shí)候，在一個(gè)名為Vortex的RISC-V GPU項(xiàng)目上，也實(shí)現(xiàn)了對(duì)CUDA軟件工具包的支持。

在這個(gè)項(xiàng)目中，研究人員設(shè)計(jì)并實(shí)現(xiàn)了一條流水線，旨在全面支持從CUDA到增強(qiáng)版RISC-V GPU架構(gòu)的代碼遷移。這條流水線以CUDA源代碼為起點(diǎn)，目標(biāo)是在強(qiáng)化的RISC-V GPU架構(gòu)上直接運(yùn)行這些代碼。具體而言，流水線分為以下幾步：首先將CUDA源代碼轉(zhuǎn)換為NVVM中間表示（IR），接著把NVVM IR轉(zhuǎn)化為SPIR-V IR，隨后利用POCL將SPIR-V IR轉(zhuǎn)譯成針對(duì)RISC-V的二進(jìn)制文件，最終在增強(qiáng)后的RISC-V GPU上執(zhí)行這些二進(jìn)制文件。

寫在最后

盡管CUDA生態(tài)目前是英偉達(dá)GPU的最大優(yōu)勢(shì)之一，但從這些廠商的努力可以看到，其他GPU硬件也正在有越來越多的方法兼容CUDA，有機(jī)會(huì)從英偉達(dá)手中奪得一些市場(chǎng)份額。但AI領(lǐng)域的龍頭效應(yīng)越來越強(qiáng)，能夠挑戰(zhàn)英偉達(dá)的GPU廠商可能機(jī)會(huì)越來越小了。