自適應(yīng)計算加速軟件定義硬件時代到來

以前設(shè)計一個產(chǎn)品，先要規(guī)劃好硬件架構(gòu)，等硬件設(shè)計全部完成后，才會開始軟件部分的開發(fā)，然后才是完整產(chǎn)品的發(fā)布。現(xiàn)在，隨著云計算、互聯(lián)網(wǎng)的發(fā)展，以及AI、5G和自動駕駛的興起，硬件和產(chǎn)品的開發(fā)流程需求在發(fā)生著前所未有的變化，比如更高的硬件性能；更高的安全和保密需求；不斷增加的傳感器類型和接口；不斷演進的AI算法和模型；以及軟件開發(fā)需要與硬件開發(fā)同步進行等等。

在這些新需求的推動下，“軟件定義硬件”的概念被人多次提到，人們希望芯片中所有操作的控制和調(diào)度都由軟件來完成，從而減少相應(yīng)的硬件開銷，把節(jié)省的部分用于運算和片上存儲。這個愿望看起來很美好，但實現(xiàn)起來還是有不少難度的，比如FPGA可以實現(xiàn)一部分的軟件定義硬件功能，但其效率比ASIC低，功耗卻比ASIC高。那有沒有什么更好的辦法呢？

自適應(yīng)平臺的優(yōu)勢

賽靈思的自適應(yīng)計算平臺就是為此而生的。根據(jù)賽靈思的自適應(yīng)計算白皮書和自適應(yīng)計算專區(qū)，自適應(yīng)計算以FPGA技術(shù)為基礎(chǔ)，支持在芯片上動態(tài)構(gòu)建特定領(lǐng)域架構(gòu)（DSA）。也就是說，自適應(yīng)計算允許DSA隨需求變化進行動態(tài)更新，從而避免受到漫長的ASIC設(shè)計周期和高昂的NRE成本的約束。隨著處理的分布式水平不斷提高，自適應(yīng)計算不僅能夠支持軟件的無線（OTA）更新，也支持硬件無線更新，而且更新可以幾乎無線的次數(shù)反復(fù)進行。

“自適應(yīng)平臺”則指以自適應(yīng)硬件為核心的任意類型產(chǎn)品或解決方案。自適應(yīng)平臺完全基于相同的自適應(yīng)硬件基礎(chǔ)，但其包含的內(nèi)容遠不止芯片硬件或器件，而是涵蓋了全部的硬件和全面的成套設(shè)計軟件和運行軟件。

有了自適應(yīng)平臺后，硬件工程師可以從那些重復(fù)和低端的設(shè)計工作中解放出來，專注于自己擅長的專業(yè)功能的開發(fā)，軟件工程師則可以跟硬件工程師同一時間開始設(shè)計工作，而不需要等到所有硬件全部設(shè)計好之后才開始工作。

當(dāng)然，除了這個好處之外，自適應(yīng)平臺還有以下一些優(yōu)勢：

一是加快產(chǎn)品上市進程。比如賽靈思的其中一個自適應(yīng)計算平臺產(chǎn)品Alveo數(shù)據(jù)中心加速器卡，使用該加速卡來構(gòu)建的應(yīng)用，能為特定應(yīng)用加速，而不需要特別的硬件定制。且只需將PCIe卡添加到服務(wù)，就可以從現(xiàn)有的軟件應(yīng)用中直接調(diào)用加速庫。

二是可以降低運營成本。與基于 CPU 的解決方案相比，由于計算密度的提升，基于自適應(yīng)平臺的優(yōu)化應(yīng)用能在每節(jié)點提供大幅提高的效率。

三是可靈活且動態(tài)地配置工作負(fù)載。自適應(yīng)平臺可根據(jù)當(dāng)前需求重新配置。開發(fā)者可以在自適應(yīng)平臺內(nèi)輕松切換已部署應(yīng)用，使用相同設(shè)備即可滿足不斷變化的工作負(fù)載需求。

四是能兼容未來。自適應(yīng)平臺能不斷進行調(diào)整。如果現(xiàn)有應(yīng)用需要新的功能，則可以對硬件重新編程，以最佳方式實現(xiàn)這些功能，減少硬件升級需求，進而延長系統(tǒng)使用壽命。

五是可加速整體應(yīng)用。因為AI推斷很少單獨存在，一般是更大的數(shù)據(jù)分析與處理鏈條的組成部分，往往與使用傳統(tǒng)（非AI）實現(xiàn)方案的多個上游級和下游級并存。這些系統(tǒng)中的嵌入式AI部分得益于AI加速，而非AI部分也能從加速中獲益。自適應(yīng)計算的天然靈活性適合為AI和非AI處理任務(wù)進行加速，稱之為“整體應(yīng)用加速”。隨著計算密集型AI推斷滲透到更多應(yīng)用中，其重要性也在日益提升。

自適應(yīng)計算的成功落地案例

以前，工程師如果要使用FPGA，就需要自己構(gòu)建自己的硬件板，并用硬件描述語言（HDL）配置好FGPA才行。如今，自適應(yīng)平臺的開發(fā)者只需要使用自己熟悉的軟件框架和語言（比如C++、Python、TensorFlow等），直接發(fā)揮自適應(yīng)計算的效能。也就是說，軟件和AI開發(fā)者不需要構(gòu)建電路板，或者成為硬件專家，就能自如地運用自適應(yīng)計算。

更為方便的是，工程師不僅可以通過API直接調(diào)用他們現(xiàn)有的軟件代碼，還可以使用獨立軟件供應(yīng)商（ISV）生態(tài)系統(tǒng)和廠商提供的開源庫，庫里有大量的加速API可供使用。

以賽靈思已經(jīng)量產(chǎn)的兩款自適應(yīng)計算平臺產(chǎn)品Kria SOM和Alveo加速器卡為例。Kria SOM基于Zynq UltraScale+ MPSoC 架構(gòu)而構(gòu)建，支持開發(fā)者在交鑰匙自適應(yīng)平臺上開發(fā)邊緣應(yīng)用。通過將系統(tǒng)的核心部分標(biāo)準(zhǔn)化，開發(fā)者有更多時間專注于打造差異化功能特性。

賽靈思首款量產(chǎn)的Kria SOM產(chǎn)品就是K26 SOM，硬件配置方面，K26 SOM基于Zynq UltraScale+ MPSoC架構(gòu)設(shè)計，整體尺寸為77×60×11mm，搭載四核Arm A53處理器，內(nèi)置64位4GB的DDR4內(nèi)存，擁有256K系統(tǒng)邏輯單元和1.4TOPS AI處理器性能，支持4K 60p的H.264/265視頻編解碼器。

Kria SOM是作為量產(chǎn)就緒型的產(chǎn)品來設(shè)計、制造和測試的，它可以承受各種嚴(yán)苛的應(yīng)用環(huán)境。目前Kria SOM分為工業(yè)級和商用級兩種類別，工業(yè)級支持更高的振動和更極端的溫度，同時也有更長的生命周期等級和維保。

Kria SOM主要針對智能視覺的應(yīng)用，因此，它可以用于智慧城市中的高速目標(biāo)檢測，比如車牌識別等應(yīng)用；同時，它也可以用于工業(yè)產(chǎn)線上的機器視覺應(yīng)用。

對于Alveo 加速器卡，它采用行業(yè)標(biāo)準(zhǔn)的PCI-e接口，可為任意數(shù)據(jù)中心應(yīng)用提供硬件卸載能力，同時還可用于SmartSSD存儲，在存儲訪問點上進行加速。此外，還能用于SmartNIC，直接在網(wǎng)絡(luò)流量上提供加速。

比如Alveo SN1000 SmartNIC，它擴展了SmartNIC的性能包絡(luò)，其以數(shù)據(jù)中心和邊緣計算平臺為目標(biāo)，結(jié)合了高性能網(wǎng)絡(luò)、CPU集群和大規(guī)模FPGA，在一塊板子上構(gòu)建了一個高性能計算（HPC）平臺，具有顯著的網(wǎng)絡(luò)加速功能。

此外，Alveo SN1000 SmartNIC采用標(biāo)準(zhǔn)化和軟件框架，不需要直接處理FPGA的編程，使用更加方便。工程師可以利用賽靈思或第三方支持FPGA中使用的大部分固件，甚至CPU集群上運行的軟件。CPU集群可運行標(biāo)準(zhǔn)的Linux發(fā)行版，如Ubuntu和Yocto Linux。SmartNIC驅(qū)動程序可用于Red Hat Enterprise Linux （RHEL）、CentOS和Ubuntu等主機平臺。

在應(yīng)用方面，Alveo適用于基因組學(xué)分析、圖形數(shù)據(jù)庫、醫(yī)療影像的處理分析，以及基于視頻影像監(jiān)控類應(yīng)用。在應(yīng)用落地方面，已經(jīng)有數(shù)據(jù)中心及基因測序應(yīng)用方面都有應(yīng)用。

結(jié)語

軟件正在改變硬件，軟硬件的結(jié)合發(fā)展將會改變產(chǎn)品的形態(tài)，進一步改變我們的生活。雖然現(xiàn)在軟件定義硬件并沒有大規(guī)模鋪開，但不論從我們常用的手機應(yīng)用，到工業(yè)應(yīng)用，以及自適應(yīng)計算平臺中軟件的作用，我們可以明顯看到軟件在產(chǎn)品中所起到的作用越來越大。未來自適應(yīng)計算平臺必將加速軟件定義硬件時代的到來。

編輯：jq