CPU+FPGA將作為新的異構(gòu)加速模式

當(dāng)前世界已進(jìn)入“讀圖”時(shí)代，圖片數(shù)據(jù)占用了互聯(lián)網(wǎng)數(shù)據(jù)中心巨大的存儲(chǔ)資源，為此谷歌推出壓縮比更高的WebP圖像格式，但由于算法更復(fù)雜，WebP圖像的轉(zhuǎn)碼時(shí)間更長(zhǎng)。浪潮推出了WebP圖像有損壓縮FPGA異構(gòu)加速方案，能夠?qū)崿F(xiàn)JPEG-WebP圖片格式的快速轉(zhuǎn)換，相比傳統(tǒng)方案轉(zhuǎn)換效率最高能提升14倍，能夠支撐更高并發(fā)密度的圖片實(shí)時(shí)檢索、傳輸?shù)热蝿?wù)。

基于業(yè)界最強(qiáng)性能的浪潮F10A FPGA的圖像壓縮加速方案

這是一個(gè)“讀圖”的時(shí)代

隨著移動(dòng)互聯(lián)網(wǎng)的發(fā)展，圖片正在成為日常資訊中重要的組成部分，從一定程度上來(lái)講我們已經(jīng)進(jìn)入了“讀圖”時(shí)代。根據(jù)研究表明，全球設(shè)備產(chǎn)生的互聯(lián)網(wǎng)數(shù)據(jù)規(guī)模在2019年預(yù)計(jì)達(dá)到每月24.3EB，其中，60%的數(shù)據(jù)流量來(lái)源于圖片?！白x圖時(shí)代”尤其是“大圖時(shí)代”，這么多高質(zhì)量的圖片存在哪？存儲(chǔ)成本急劇上升怎么解？

用計(jì)算能力“換取”存儲(chǔ)空間

目前，互聯(lián)網(wǎng)主流的圖片格式包括JPEG、GIF等，但是由于壓縮比小，導(dǎo)致圖片數(shù)據(jù)存儲(chǔ)占用了過(guò)多的服務(wù)器存儲(chǔ)資源。

WebP格式能夠大大縮小圖片文件大小

為此，谷歌發(fā)布了新的圖片有損壓縮格式——WebP，能在保證圖像質(zhì)量的前提下，數(shù)據(jù)大小相比JPEG降低39.8%，相比PNG降低26%，相比GIF降低64%。使用WebP格式圖片后頁(yè)面平均傳輸時(shí)間減少33%，網(wǎng)頁(yè)加載時(shí)間降低10%。

在國(guó)內(nèi)，騰訊的新聞客戶端、QQ空間等也開始嘗試向WebP切換，流量峰值帶寬可以降低9GB，圖片的延時(shí)和數(shù)據(jù)下載延時(shí)降低100ms。但是WebP的應(yīng)用落地仍存在門檻，因?yàn)閃ebP其實(shí)是需要用計(jì)算能力“換取”存儲(chǔ)空間。

由于采用了更復(fù)雜的壓縮算法，與JPEG相比，WebP格式圖片的編解碼過(guò)程都需要消耗更多的計(jì)算資源，導(dǎo)致處理效率低10倍甚至更多。并且，CPU在處理高并行任務(wù)時(shí)并不那么高效，因此研發(fā)出一種更高效的圖片編解碼加速硬件是WebP快速落地的關(guān)鍵。

FPGA加速壓縮算法，整體性能可提升14倍

單一圖片的編解碼對(duì)于計(jì)算設(shè)備而言是一種小計(jì)算量任務(wù)，但是這種任務(wù)并發(fā)很多，同一時(shí)間要處理的圖片的數(shù)量多。如果使用串行計(jì)算的CPU來(lái)處理，處理效率就會(huì)受限于時(shí)鐘頻率。

因此，浪潮采用并行計(jì)算能力強(qiáng)的計(jì)算平臺(tái)FPGA來(lái)進(jìn)行圖片編解碼，通過(guò)把高性能計(jì)算算法中固有的并行運(yùn)算部分硬件化來(lái)實(shí)現(xiàn)應(yīng)用加速。在處理大規(guī)模并發(fā)任務(wù)時(shí)，可以提供更多管道，也就是說(shuō)可以同時(shí)并行執(zhí)行大量的指令。因而通過(guò)合理的配置，F(xiàn)PGA可以同時(shí)執(zhí)行大量的數(shù)據(jù)吞吐操作，在這種情況下，該設(shè)備相當(dāng)于多個(gè)傳統(tǒng)CPU在同時(shí)工作。

浪潮WebP圖像壓縮FPGA異構(gòu)加速方案，基于浪潮研發(fā)的業(yè)界最高密度的FPGA卡-F10A。并針對(duì)圖片數(shù)據(jù)的壓縮任務(wù)，嵌入基于FPGA計(jì)算環(huán)境下的WebP編解碼優(yōu)化算法，通過(guò)充分利用硬件流水設(shè)計(jì)和任務(wù)級(jí)并行，大大提升WebP圖像壓縮編碼算法的處理性能。

浪潮實(shí)測(cè)數(shù)據(jù)顯示FPGA方案相比傳統(tǒng)方案效率提升14倍以上

根據(jù)浪潮實(shí)測(cè)，采用浪潮WebP圖像壓縮FPGA解決方案，與傳統(tǒng)實(shí)現(xiàn)方式相比，在JPEG格式轉(zhuǎn)WebP格式任務(wù)下，這一解決方案相比傳統(tǒng)CPU方案，整體處理效率平均提高9.13倍左右，最高性能可比CPU提高14倍！這意味著，圖片數(shù)據(jù)存儲(chǔ)所需要的服務(wù)器數(shù)量減少近一半，且能夠支撐更高并發(fā)密度的圖片檢索、傳輸?shù)热蝿?wù)。

舉個(gè)實(shí)測(cè)例子，輸入1200張2048×1536分辨率的JPEG圖片，使用雙路Xeon E5-2690v3服務(wù)器來(lái)進(jìn)行WebP格式轉(zhuǎn)碼，共需要33.4秒，每秒能夠處理35張。而使用浪潮FPGA加速方案則只需要2.39秒，每秒能夠處理502張，加速比達(dá)到14.37倍！

當(dāng)今社會(huì)，圖片已經(jīng)成為互聯(lián)網(wǎng)不可或缺的元素，在電子商務(wù)、即時(shí)通訊、圖片搜索、生活服務(wù)、社交平臺(tái)等領(lǐng)域，圖片所占的比重也逐漸增大，圖片存儲(chǔ)和分發(fā)對(duì)于數(shù)據(jù)中心運(yùn)營(yíng)成本的壓力也居高不下，采用浪潮WebP圖像壓縮FPGA方案，將能夠有效提升WebP格式圖片轉(zhuǎn)碼效率，進(jìn)而提升網(wǎng)站、App的圖片速度，降低后臺(tái)存儲(chǔ)所需硬件資源。

目前，浪潮已經(jīng)在WebP圖像壓縮、Gzip數(shù)據(jù)壓縮和殘差網(wǎng)絡(luò)-ResNet等方向推出了相應(yīng)的FPGA解決方案，相比傳統(tǒng)應(yīng)用實(shí)現(xiàn)方式，浪潮FPGA方案具有極高的性能功耗比優(yōu)勢(shì)。后續(xù)，浪潮將繼續(xù)深入研發(fā)基于FPGA的通用系統(tǒng)方案，包括深度學(xué)習(xí)、網(wǎng)絡(luò)加速、存儲(chǔ)優(yōu)化等，并將方案推廣到其它應(yīng)用領(lǐng)域和客戶。未來(lái)，CPU+FPGA或許將作為新的異構(gòu)加速模式，被越來(lái)越多的數(shù)據(jù)中心、互聯(lián)網(wǎng)深度學(xué)習(xí)等越來(lái)越多的應(yīng)用領(lǐng)域采用。