FPGA、eFPGA、加速卡，全面應(yīng)對(duì)多樣化的邊緣AI

與將數(shù)據(jù)處理集中在云計(jì)算設(shè)施或數(shù)據(jù)中心進(jìn)行云端訓(xùn)練和推理的模式不同，邊緣AI在本地就能給終端設(shè)備提供智能化功能，并且具有低延遲、隱私保護(hù)等優(yōu)勢。據(jù)市場咨詢公司ABI Research的數(shù)據(jù)顯示，預(yù)計(jì)到2025年，邊緣AI芯片市場的收入將達(dá)到122億美元，云AI芯片市場的收入將達(dá)到119億美元，邊緣AI芯片市場將超過云AI芯片組市場。邊緣AI芯片當(dāng)前主要用于AI推理，未來可實(shí)現(xiàn)邊緣AI訓(xùn)練乃至自主學(xué)習(xí)，從而使得邊緣AI更加智能。由于邊緣AI的興起，不同于云端AI的GPU占據(jù)主流，FPGA和ASIC等芯片在邊緣AI的價(jià)值得到更多體現(xiàn)。

最近，電子發(fā)燒友采訪到Achronix中國區(qū)總經(jīng)理郭道正，郭總分享了作為一家FPGA廠商怎么看到邊緣AI，以及Achronix有哪些先進(jìn)的解決方案等話題。

邊緣AI對(duì)FPGA和eFPGA的需求

郭道正表示，邊緣AI將在智能化時(shí)代發(fā)揮巨大的作用，但是邊緣AI的應(yīng)用場景數(shù)量眾多，這意味著它們需要不同的計(jì)算器件和算力等級(jí)。這也意味著邊緣的計(jì)算架構(gòu)應(yīng)該有很高的靈活性，而這正是FPGA技術(shù)在提供并行計(jì)算的同時(shí)還能提供的。在工業(yè)應(yīng)用中還有一些特殊的要求，如工業(yè)通信協(xié)議轉(zhuǎn)換或者時(shí)常更新等，而FPGA是滿足這些要求的最好技術(shù)。

Achronix中國區(qū)總經(jīng)理郭道正

他進(jìn)一步指出，實(shí)際上，邊緣AI也不得不面臨許多云端推理/機(jī)器學(xué)習(xí)不會(huì)面對(duì)的制約因素，如系統(tǒng)的大小、功耗和成本等；同時(shí)，邊緣AI的計(jì)算設(shè)備不得不面臨來自于各種各樣的傳感器等數(shù)據(jù)源的數(shù)據(jù)；此外，這些數(shù)據(jù)可能還是通過不同的專用通信協(xié)議傳輸過來的，這在許多垂直行業(yè)中非常常見。因此，邊緣AI的計(jì)算架構(gòu)必須擁有足夠的靈活性和可編程性，這也就是我們認(rèn)為FPGA是邊緣AI最好技術(shù)之一。

不過正因?yàn)檫吘堿I面對(duì)的復(fù)雜性，因此獨(dú)立FPGA似乎并不能完全滿足所需。因此，Achronix為解決方案提供商提供了eFPGA IP。郭道正說道：“在他們自己面向邊緣AI推出的ASIC或SoC等芯片上，他們可以在其特有的計(jì)算器件旁邊引入我們的Speedcore eFPGA IP來作為硬件加速器，從而為整個(gè)邊緣AI解決方案帶來非常高的性價(jià)比和能效，并同時(shí)為新的應(yīng)用場景、新的算法、新的協(xié)議甚至新的傳感器保持足夠的靈活性?！?br />

全面FPGA技術(shù)和三大產(chǎn)品組合

Achronix為邊緣AI提供了全面的FPGA技術(shù)和產(chǎn)品組合。Achronix的解決方案包括Speedster7t系列獨(dú)立FPGA芯片、Speedcore eFPGA IP和VectorPath加速卡，所有這些都由Achronix ACE工具鏈提供支持。

Speedster7t系列獨(dú)立FPGA芯片

據(jù)介紹，Speedster7t FPGA的特點(diǎn)是在其高性能、高密度邏輯陣列之外，還具有二維片上網(wǎng)絡(luò)（2D NoC）和機(jī)器學(xué)習(xí)處理器（MLP），該器件采用7nm工藝打造。這樣，開發(fā)人員就不必?fù)?dān)心數(shù)據(jù)在流進(jìn)流出以及芯片內(nèi)部流動(dòng)的帶寬。

具體來看，Speedster7t FPGA架構(gòu)的各個(gè)方面都經(jīng)過了優(yōu)化，以便為AI/ML應(yīng)用創(chuàng)建一個(gè)優(yōu)化的、平衡的、大規(guī)模并行的計(jì)算引擎。每個(gè)Speedster7t FPGA都具有一個(gè)大規(guī)模并行的可編程計(jì)算單元陣列，并被整合成全新的機(jī)器學(xué)習(xí)處理器（MLP）模塊。每個(gè)MLP都是一個(gè)高度可配置的、計(jì)算密集型的單元模塊，具有多達(dá)32個(gè)乘法器，支持4到24位的整數(shù)格式和各種浮點(diǎn)格式，包括直接支持Tensorflow的bfloat16格式和塊浮點(diǎn)（BFP）格式。同時(shí)，Speedster7t系列FPGA芯片中集成的2D NoC可以全面消除芯片內(nèi)外部的數(shù)據(jù)傳輸瓶頸。

嵌入式FPGA（eFPGA）

異構(gòu)計(jì)算是邊緣AI發(fā)展中非常確信的趨勢之一，因此許多邊緣計(jì)算解決方案采用的高集成度系統(tǒng)級(jí)芯片（SoC）或?qū)Ｓ?a href="http://ttokpm.com/v/tag/123/" target="_blank">集成電路（ASIC）都集成了嵌入式FPGA（eFPGA），從而可以幫助解決方案提供商為垂直行業(yè)開發(fā)邊緣AI解決方案，并為特定的邊緣應(yīng)用場所打造專門的解決方案。在部署的規(guī)模不斷提升之際，一個(gè)SoC或者ASIC解決方案的規(guī)模經(jīng)濟(jì)效應(yīng)將更加明顯。

Speedcore嵌入式FPGA（eFPGA）IP為ASIC和SoC帶來了強(qiáng)大的和靈活的可編程邏輯。客戶可以將Speedcore eFPGA集成到ASIC或SoC中，可用于高性能、計(jì)算密集型和實(shí)時(shí)處理應(yīng)用，諸如人工智能（AI）、機(jī)器學(xué)習(xí)（ML）、5G無線、網(wǎng)絡(luò)、存儲(chǔ)和汽車。當(dāng)然，它也可以用于這些領(lǐng)域中的大量邊緣AI應(yīng)用。

郭道正表示，與獨(dú)立FPGA芯片的設(shè)計(jì)過程不同，eFPGA設(shè)計(jì)人員可以針對(duì)客戶應(yīng)用，選擇所需邏輯、DSP（或MLP）、2D NoC和存儲(chǔ)資源的確切數(shù)量。當(dāng)需要靈活性時(shí)，業(yè)界也可以使用eFPGA，同時(shí)通過消除獨(dú)立FPGA的多余功能來降低系統(tǒng)成本、功耗和電路板面積，諸如高速I/O這些功能在以SoC或者ASIC形態(tài)進(jìn)入大批量生產(chǎn)時(shí)是不需要的。

VectorPath S7t-VG6加速卡

VectorPath S7t-VG6加速卡旨在為人工智能（AI）、機(jī)器學(xué)習(xí)（ML）、網(wǎng)絡(luò)和數(shù)據(jù)中心應(yīng)用開發(fā)高性能計(jì)算和加速功能時(shí)，縮短產(chǎn)品上市時(shí)間。該加速卡采用了Achronix的高性能Speedster7t AC7t1500 FPGA。VectorPath S7t-VG6是Achronix與領(lǐng)先的企業(yè)級(jí)FPGA加速器產(chǎn)品供應(yīng)商BittWare聯(lián)合開發(fā)，可提供400G和200G以太網(wǎng)接口、GDDR6總存儲(chǔ)帶寬高達(dá)4 Tbps以及一整套軟件和工具，可以立即開始使用。

憑借這一獨(dú)特的產(chǎn)品組合，解決方案提供商能夠使用VectorPath加速卡為制造領(lǐng)域快速開發(fā)邊緣AI/ML解決方案，可適用于不同的垂直市場。此外，解決方案提供商可以將其硬件解決方案集成到帶有Speedcore eFPGA的SoC或ASIC之中，并將FPGA開發(fā)移植到芯片中，為制造領(lǐng)域的邊緣AI提供最高的成本效益和功耗效率。

發(fā)展規(guī)劃

邊緣AI不僅得到了FPGA、ASIC廠商的重視，我們看到現(xiàn)在一些廠商在MCU當(dāng)中集成AI加速器使得MCU更加智能。對(duì)于這樣的邊緣AI趨勢，郭道正認(rèn)為，MCU只是在邊緣使用的處理器品類之一。由于邊緣應(yīng)用的多樣性，在不同垂直領(lǐng)域或者應(yīng)用場景中可能需要MCU、通用處理器、應(yīng)用處理器甚至諸如PLC等技術(shù)領(lǐng)域中的特定處理器，而且它們已經(jīng)在不同的應(yīng)用場景中構(gòu)筑了自己相應(yīng)的優(yōu)勢和生態(tài)系統(tǒng)。而當(dāng)智能化時(shí)代到來之后，所有這些處理器都有一個(gè)共同的需求：它們都需要硬件加速器來高效地處理AI/ML算法，這也是邊緣計(jì)算領(lǐng)域中非常清晰的異構(gòu)計(jì)算大趨勢。

他說道，與僅用傳統(tǒng)處理器來運(yùn)行AI/ML算法的模式相比，F(xiàn)PGA是最高效的硬件數(shù)據(jù)處理加速器之一。FPGA技術(shù)在邊緣計(jì)算方面的應(yīng)用包括板級(jí)、芯片級(jí)和eFPGA等形式，但是Achronix是唯一一家提供獨(dú)立FPGA芯片、eFPGA IP和加速卡的供應(yīng)商，并提供了完整的ACE開發(fā)工具來支持所有種類的應(yīng)用。據(jù)此，邊緣AI解決方案提供商可以為其應(yīng)用和其他要求選擇最好的解決方案，并高效地重復(fù)使用他們的開發(fā)成果和IP。

面對(duì)如今規(guī)模高達(dá)100億美元并且還在不斷擴(kuò)展的硬件加速器市場。Achronix也部署了多項(xiàng)舉措。郭道正談到，其一是Achronix一直在不斷擴(kuò)大自己的團(tuán)隊(duì)，這既包括不斷擴(kuò)大的高層管理人員團(tuán)隊(duì)，他們?yōu)锳chronix帶來了在不用領(lǐng)域內(nèi)豐富的經(jīng)驗(yàn)或者技術(shù)特長，而且還包括我們一直在延聘的開發(fā)、工程、運(yùn)營和客戶支持團(tuán)隊(duì)成員。在中國，我們也在進(jìn)一步擴(kuò)大中國團(tuán)隊(duì)，以確?？蛻舻某晒Α?br />
其二，除了組織架構(gòu)性擴(kuò)展，Achronix也在不斷將FPGA技術(shù)推向更遠(yuǎn)的新領(lǐng)域。例如，先進(jìn)的封裝可以支持Achronix基于chiplet技術(shù)構(gòu)建模塊化產(chǎn)品。通過利用先進(jìn)的封裝，Achronix可以更快地進(jìn)行創(chuàng)新以滿足多個(gè)市場的需求，而不必為每一代新產(chǎn)品重新設(shè)計(jì)整個(gè)單片F(xiàn)PGA器件。展望未來，云和邊緣計(jì)算、網(wǎng)絡(luò)設(shè)備、人工智能和機(jī)器學(xué)習(xí)、5G/6G無線網(wǎng)絡(luò)設(shè)備、金融科技、工業(yè)和汽車等領(lǐng)域都是Achronix在未來5年內(nèi)主要的市場機(jī)遇。
通過前面對(duì)挑戰(zhàn)和解決方案的分析，我們可以發(fā)現(xiàn)FPGA技術(shù)是邊緣AI硬件平臺(tái)的最佳選擇，以應(yīng)對(duì)來自技術(shù)、經(jīng)濟(jì)規(guī)模和面向未來的解決方案等挑戰(zhàn)。