FPGA發(fā)明以來最偉大的技術(shù)ACAP解析

今年3月份，賽靈思（Xilinx）歷史上第四位全球CEO Victor Peng 先生在北京正式宣布賽靈思將推出“自適應(yīng)計(jì)算加速平臺(tái)”ACAP。Victor 表示：“作為可以和CPU、GPU與FPGA 相提并論、并且性能遠(yuǎn)超后二者的產(chǎn)品，ACAP可以覆蓋更加廣泛的應(yīng)用，幫助人們實(shí)現(xiàn)智能互聯(lián)并且驅(qū)動(dòng)自適應(yīng)的世界?！?/p>

ACAP采用臺(tái)積電7納米技術(shù)，在機(jī)器學(xué)習(xí)的計(jì)算能力方面比16納米級(jí)提升20倍，在5G通信方面能夠支持4倍的帶寬，在性能功耗比方面具有優(yōu)越的表現(xiàn)。ACAP是賽靈思公司“Everest 行動(dòng)”（內(nèi)部稱為“珠穆朗瑪”行動(dòng)）的重大成果。“Everest 行動(dòng)”已經(jīng)歷經(jīng)四年，投資10億美元、動(dòng)用1500名工程師，無疑是一個(gè)重磅級(jí)新型產(chǎn)品?？梢哉f，ACAP的問世，對(duì)業(yè)界來說是一項(xiàng)重大的技術(shù)顛覆，也是自賽靈思公司發(fā)明FPGA以來最卓著的工程成就。

圖1 ACAP架構(gòu)圖

上圖中的所有其他主要模塊都以某種形式在Xilinx 16nm Zynq、Virtex和Kintex UltraScale+系列中出現(xiàn)過，并不需要詳細(xì)說明。這些模塊包括Arm應(yīng)用和實(shí)時(shí)處理器、可編程邏輯、HBM（高帶寬存儲(chǔ)器），使用硅基板和2.5D組裝技術(shù)連接到Xilinx芯片上的堆疊式DRAM陣列、RFADC和DAC以及高速SerDes端口。

但是那個(gè)紅色模塊仍是個(gè)謎。這是公司“七面紗之舞蹈”的一部分，它會(huì)慢慢揭開Everest 和ACAP產(chǎn)品的細(xì)節(jié)，從而在設(shè)計(jì)階段就引起公眾的興趣。（這種營銷技巧的靈感來自于一個(gè)世紀(jì)前的著名作家和劇作家奧斯卡·王爾德，目前這種技巧受到了高科技營銷人員和真人秀明星的青睞。）

8月份在加利福尼亞州庫比蒂諾舉行的“Hot Chips 30”會(huì)議上，揭開了一兩個(gè)隱藏著HW和SW可編程引擎的神秘的面紗被揭開。在會(huì)議上，Xilinx集團(tuán)工程總監(jiān)Juanjo Noguera做了一份詳細(xì)報(bào)告，標(biāo)題為“HW/SW可編程引擎：Everest項(xiàng)目的特定架構(gòu)”。Noguera的演示介紹了許多額外的硬件細(xì)節(jié)，同時(shí)保留了最有趣的細(xì)節(jié)。

Everest HW/SW可編程引擎是由粗粒度、軟件可編程的VLIW矢量處理器組成的平鋪陣列（tiled array），它們以多種硬件可編程的方式相互連接。Noguera認(rèn)為，VLIW矢量處理器可以處理各種定點(diǎn)和浮點(diǎn)數(shù)據(jù)類型。HW/SW可編程引擎陣列出現(xiàn)在下圖的左上角，而具有互連方案的單個(gè)模塊細(xì)節(jié)位于圖中的右下角。

圖2 Xilinx HW/SW可編程引擎對(duì)Everest結(jié)構(gòu)的詳細(xì)說明

在Everest設(shè)計(jì)中，HW/SW可編程引擎陣列與PS（處理器系統(tǒng)）和PL（可編程邏輯）獨(dú)立通信。陣列中的每個(gè)塊的軟件可編程VLIW向量處理器和數(shù)據(jù)移動(dòng)器（DMA機(jī)器）組成。

陣列中有三種類型的互連鏈路模塊。第一種類型，由圖2中的紅色小箭頭表示，是使用NSEW（北、南、東、西）排列方法將每個(gè)模塊與其最近的四個(gè)鄰居鏈接起來的平行、雙向數(shù)據(jù)接口。此外，圖中顯示的綠色小箭頭指向的是單向級(jí)聯(lián)接口，允許一個(gè)瓦片將部分結(jié)果直接傳遞給其相鄰的右側(cè)鄰居。

這些短的、本地的點(diǎn)到點(diǎn)的連接讓人想起FPGA陣列中用于的短距離LUT-to-LUT通信的本地互連，其級(jí)聯(lián)接口類似于DSP片之間的進(jìn)位接口。不過這并不是巧合，因?yàn)檫@些通信路徑在Xilinx設(shè)備中一直很常見。

對(duì)于平鋪陣列中較長的通信路徑，HW/SW可編程引擎使用200G字節(jié)/秒的非阻塞、確定性NOC(片上網(wǎng)絡(luò))。NOC加上并行的本地互連，構(gòu)成了可編程引擎的“硬件可編程”性。

我們可以以多種方式連接向量處理塊，以實(shí)現(xiàn)不同的處理陣列。Noguera在他的演講中討論了五種類似的結(jié)構(gòu)。圖3列出了這些示例：

圖3 Everest HW/SW可編程引擎處理配置示例

配置1是一個(gè)簡單的一維單向數(shù)據(jù)流管道。每個(gè)處理塊處理傳入的數(shù)據(jù)流一部分，然后通過本地內(nèi)存緩沖區(qū)將結(jié)果傳遞到下一個(gè)塊。配置2是一個(gè)數(shù)據(jù)流圖，該數(shù)據(jù)流圖可以看成是數(shù)據(jù)流管道的多維版本。從本質(zhì)上講，它仍然是管道，不過是在多個(gè)維度上運(yùn)行的。配置3利用NOC將結(jié)果從一個(gè)處理塊同時(shí)多播到兩個(gè)或多個(gè)后續(xù)塊。配置4使用輸入和輸出存儲(chǔ)器緩沖區(qū)來匹配連接在NOC上的塊的差分處理速率。配置5可以使用級(jí)聯(lián)接口將中間結(jié)果從一個(gè)塊傳遞到下一個(gè)塊，而不消耗其他資源。

這只是五個(gè)配置示例。使用這種新的處理資源可以創(chuàng)造出更多的處理配置，而且還有一些智能自動(dòng)化的空間可以合成和優(yōu)化配置，以滿足高性能、高功率的目標(biāo)。當(dāng)然，這些互連方案也可以組合使用。

HW/SW可編程引擎的功能可以使用Everest的片上PL進(jìn)行擴(kuò)展，該P(yáng)L通過多個(gè)NOC節(jié)點(diǎn)和CDC（時(shí)鐘域交叉）緩沖區(qū)連接到HW/SW可編程引擎的NOC上，如圖4所示。（顯然，該架構(gòu)需要CDC緩沖區(qū)，因?yàn)镠W/SW可編程引擎和PL的時(shí)鐘速率不同，不過它的運(yùn)行速度應(yīng)該不會(huì)變慢。）

圖4 HW/SW可編程引擎的NOC通過多個(gè)NOC節(jié)點(diǎn)和時(shí)鐘域交叉緩沖區(qū)連接到設(shè)備的可編程邏輯。

如圖所示，Everest的HW/SW可編程引擎（圖中縮寫“PE”）與其PL之間的互連總帶寬為Tbytes/sec量級(jí)。這將導(dǎo)致許多系統(tǒng)架構(gòu)師不得不重新思考他們關(guān)于處理器體系結(jié)構(gòu)的假設(shè)。

我們可以使用連接的PL以多種方式增強(qiáng)HW/SW可編程引擎的能力。例如，可以使用PL的RAM陣列來增加向量處理塊對(duì)PL中的片上SRAM (BRAM和UltraRAM)塊的訪問。也可以使用PL來實(shí)現(xiàn)硬件加速器，它可以比塊矢量引擎更快地執(zhí)行特定的計(jì)算。Noguera建議使用PL為tile創(chuàng)建“ISA擴(kuò)展”，但他沒有詳細(xì)說明。

機(jī)器語言推理和5G無線信號(hào)處理的性能結(jié)果給人留下了深刻印象，如下圖5所示。

圖5 HW/SW可編程引擎相對(duì)于可編程邏輯實(shí)現(xiàn)的結(jié)果。

值得注意的是ML（機(jī)器語言）推理的20倍改進(jìn)。當(dāng)涉及到ML推理時(shí)，F(xiàn)PGA已經(jīng)相當(dāng)快，因?yàn)橥评碛?jì)算涉及許多乘法和加法。FPGA中的數(shù)以千計(jì)的DSP片可以快速地執(zhí)行這些計(jì)算，但是HW/SW可編程引擎似乎更快。Noguera說，5G無線處理中的4倍改進(jìn)也很重要，因?yàn)檫@意味著珠穆朗瑪峰架構(gòu)可以達(dá)到2G./sec的傳輸速率。

在Noguera演講后的問答環(huán)節(jié)中，聽眾提出了一些詳細(xì)的問題。第一個(gè)問題是關(guān)于HW/SW可編程引擎的時(shí)鐘速率。Noguera的回答是，他還不能直接回答這個(gè)問題，但是他試圖通過聲明引擎可以處理2G./sec的5G傳輸比特率來間接回答。他說，HW/SW可編程引擎處理器的工作頻率將是“千兆級(jí)”。

另一個(gè)問題涉及HW/SW可編程引擎陣列中的模塊數(shù)量。答案是每個(gè)HW/SW可編程引擎中將有數(shù)十到數(shù)百個(gè)模塊，這取決于設(shè)備構(gòu)成。ACAP設(shè)備的HW/SW可編程引擎中有數(shù)百個(gè)矢量處理器，它們將被大規(guī)模并行化。這個(gè)范圍與所有FPGA供應(yīng)商（包括Xilinx）在廣泛的設(shè)備家族中將不同數(shù)量的資源放置到單個(gè)成員中的方式非常一致，并且它傳達(dá)了Xilinx開發(fā)ACAP設(shè)備家族的意圖。

然而，第一款Everest設(shè)備還沒有出來。這一里程碑性的計(jì)劃將于今年晚些時(shí)候?qū)崿F(xiàn)。同時(shí)，七個(gè)面紗的舞蹈還在繼續(xù)。Noguera承諾將在今年晚些時(shí)候在圣何塞、北京和法蘭克福舉行的Xilinx開發(fā)者論壇上披露更多細(xì)節(jié)。