國產(chǎn)GPU在AI大模型領(lǐng)域的應(yīng)用案例一覽

電子發(fā)燒友網(wǎng)報道（文/李彎彎）近一年多時間，隨著大模型的發(fā)展，GPU在AI領(lǐng)域的重要性再次凸顯。雖然相比英偉達(dá)等國際大廠，國產(chǎn)GPU起步較晚、聲勢較小。不過近幾年，國內(nèi)不少GPU廠商成長非常快，并且不斷推出新品，產(chǎn)品也逐漸在各個領(lǐng)域取得應(yīng)用，而且在大模型的訓(xùn)練和推理方面，也有所建樹。

國產(chǎn)GPU在大模型上的應(yīng)用進展

電子發(fā)燒友此前就統(tǒng)計過目前國內(nèi)主要的GPU廠商，也介紹了這些廠商主要的產(chǎn)品及產(chǎn)品發(fā)布、量產(chǎn)進展情況?？梢钥吹?，其實近幾年已經(jīng)有不少產(chǎn)品面世并應(yīng)用。

如沐曦集成，其N系列用于AI推理的GPU芯片早已量產(chǎn)。去年9月，該公司宣布，其與眸瑞科技聯(lián)合發(fā)布了首個AI模型“貼圖超分”技術(shù)。該技術(shù)依托曦思N系列AI推理GPU首款產(chǎn)品曦思N100的強大算力，結(jié)合眸瑞科技豐富的算法庫資源和先進的AI超分算法，首次將AI超分成功應(yīng)用到了3D模型領(lǐng)域。

曦思N100是沐曦面向人工智能推理場景推出的高效能GPU產(chǎn)品，針對AI推理及AI應(yīng)用場景中大量的視頻圖像處理任務(wù)，提供強大的AI算力和視頻/圖像編解碼功能。據(jù)稱，目前沐曦已聯(lián)合合作伙伴打造了多種基于曦思N100 的解決方案，如高密度視頻結(jié)構(gòu)化分析解決方案、高并發(fā)智能轉(zhuǎn)碼解決方案、光電混合異構(gòu)計算解決方案等，這些方案可廣泛應(yīng)用于城市安防、智慧交通、工業(yè)視覺、短視頻、云計算和智算中心等多個領(lǐng)域。

再如天數(shù)智芯，其提供的算力集群具有支持百億級參數(shù)大模型訓(xùn)練的能力。早前有消息，天數(shù)智芯與智源研究院、愛特云翔合作，開展基于自主通用GPU的大模型CodeGen（高效編碼）項目，通過中文描述來生成可用的C、Java、Python代碼以實現(xiàn)高效編碼。

智源研究院負(fù)責(zé)算法設(shè)計、訓(xùn)練框架開發(fā)、大模型的訓(xùn)練與調(diào)優(yōu)，天數(shù)智芯負(fù)責(zé)提供天垓100加速卡、構(gòu)建算力集群及全程技術(shù)支持，愛特云翔負(fù)責(zé)提供算存網(wǎng)基礎(chǔ)硬件及智能化運維服務(wù)。在天垓100加速卡的算力集群，基于智源研究院70億參數(shù)的Aquila語言基礎(chǔ)模型，使用代碼數(shù)據(jù)進行繼續(xù)訓(xùn)練，穩(wěn)定運行19天，模型收斂效果符合預(yù)期。

近一年多來，隨著大模型的發(fā)展，國產(chǎn)GPU公司都在朝著大模型領(lǐng)域布局。摩爾線程此前也透露，公司已經(jīng)可以支持3億參數(shù)量模型的訓(xùn)練，2022年底就提前布局了自然語言模型預(yù)訓(xùn)練，自研了MusaBert模型。

還有登臨科技，該公司此前也表示，公司首款產(chǎn)品Goldwasser已規(guī)?；\用在多家行業(yè)知名企業(yè)的主營業(yè)務(wù)中，新一代Goldwasser產(chǎn)品針對基于Transformer的網(wǎng)絡(luò)和生成式AI類大模型的應(yīng)用在性能有大幅提升。

國產(chǎn)GPU應(yīng)用于AI領(lǐng)域的多個方面

除了上述談到應(yīng)用案例，國產(chǎn)GPU在AI領(lǐng)域的應(yīng)用案例還有很多，主要涉及到深度學(xué)習(xí)、自然語言處理以及計算機視覺等多個方面。

如，在計算機視覺領(lǐng)域，國產(chǎn)GPU被廣泛應(yīng)用于圖像識別和目標(biāo)檢測等任務(wù)。例如，利用GPU加速的深度學(xué)習(xí)模型可以大幅提升算法的準(zhǔn)確性和實時性，這在安防監(jiān)控、自動駕駛等實際應(yīng)用中具有重要的價值。

在自然語言處理方面，國產(chǎn)GPU也在發(fā)揮重要作用。通過GPU加速的循環(huán)神經(jīng)網(wǎng)絡(luò)、Transformer等模型，可以實現(xiàn)高效的機器翻譯、文本生成等任務(wù)。這對于提升智能客服、智能寫作等應(yīng)用的性能具有關(guān)鍵作用。

國產(chǎn)GPU還在強化學(xué)習(xí)領(lǐng)域得到了應(yīng)用。強化學(xué)習(xí)是AI領(lǐng)域的一個重要分支，其目標(biāo)是通過與環(huán)境的交互來學(xué)習(xí)策略。GPU加速的價值網(wǎng)絡(luò)、策略網(wǎng)絡(luò)等模型可以應(yīng)用于游戲AI、機器人控制等領(lǐng)域，從而提高智能體的學(xué)習(xí)效率和性能。

另外值得關(guān)注的還有，國產(chǎn)GPU在自動駕駛領(lǐng)域的應(yīng)用也比較多。自動駕駛系統(tǒng)需要處理大量的傳感器數(shù)據(jù)，包括來自攝像頭、雷達(dá)、激光雷達(dá)等的信息。GPU通過其強大的并行計算能力和高效的內(nèi)存管理，可以實時處理這些數(shù)據(jù)，并為自動駕駛系統(tǒng)提供準(zhǔn)確的決策依據(jù)。

例如，一些國產(chǎn)汽車廠商已經(jīng)開始在其自動駕駛系統(tǒng)中采用國產(chǎn)GPU。這些GPU不僅用于圖像處理和計算機視覺任務(wù)，如目標(biāo)檢測、車道線識別等，還用于深度學(xué)習(xí)模型的推理和決策。通過GPU的加速，自動駕駛系統(tǒng)可以更快地識別交通信號、障礙物以及其他重要信息，從而提高行車安全性。

此外，國產(chǎn)GPU還在自動駕駛的地圖構(gòu)建和定位方面發(fā)揮了重要作用。通過利用GPU進行高效的地圖數(shù)據(jù)處理和實時定位計算，自動駕駛系統(tǒng)可以更加準(zhǔn)確地感知周圍環(huán)境，并實現(xiàn)精確的導(dǎo)航和路徑規(guī)劃。

具體來說，百度Apollo、小馬智行等自動駕駛技術(shù)公司，都在其自動駕駛解決方案中采用了國產(chǎn)GPU。這些解決方案不僅應(yīng)用于乘用車，還擴展到商用車、物流車等多個領(lǐng)域。

寫在最后

從目前的情況來看，國內(nèi)外GPU廠商都在追逐大模型應(yīng)用帶來的機會。當(dāng)前無論是大模型訓(xùn)練還是推理，英偉達(dá)GPU都占據(jù)了絕大部分市場。對于國產(chǎn)廠商來說，為了在大模型方面擁有更多自主權(quán)，仍然需要持續(xù)在大模型訓(xùn)練方面發(fā)力，同時相對大模型訓(xùn)練來說，大模型接下來大面積的部署，對于推理芯片的需要將會很大，這將是一個更容易把握的機會。