為何AI需要新的芯片架構(gòu)？

人工智能（AI）時(shí)代已經(jīng)開啟。Allied Market Research報(bào)告顯示，到2031年，全球AI芯片市場規(guī)模預(yù)計(jì)將達(dá)到2636億美元。AI芯片市場非常龐大，市場細(xì)分方式多樣，包括芯片種類、處理器架構(gòu)類型、技術(shù)、應(yīng)用、垂直行業(yè)等。不過，AI芯片主要應(yīng)用于兩個(gè)領(lǐng)域，即終端應(yīng)用（例如手機(jī)和智能手表中的芯片）和數(shù)據(jù)中心應(yīng)用（用于深度學(xué)習(xí)推理和訓(xùn)練）。

無論具體應(yīng)用如何，所有AI芯片都可定義為用來運(yùn)行機(jī)器學(xué)習(xí)工作負(fù)載的集成電路（IC），包括FPGA、GPU或定制ASIC AI加速器等。AI芯片的工作方式與人腦非常相似，能夠在復(fù)雜且快速變化的世界中執(zhí)行和處理各種決策及任務(wù)。傳統(tǒng)芯片與AI芯片之間的真正區(qū)別在于所能處理的數(shù)據(jù)量和數(shù)據(jù)類型，以及可以同時(shí)運(yùn)行的計(jì)算量。與此同時(shí)，新的軟件AI算法突破正在推動(dòng)新的AI芯片架構(gòu)，助力實(shí)現(xiàn)高效的深度學(xué)習(xí)計(jì)算。

本文將進(jìn)一步討論AI芯片的獨(dú)特需求、AI芯片架構(gòu)的諸多優(yōu)勢，以及AI芯片架構(gòu)的應(yīng)用和未來發(fā)展。

AI芯片的獨(dú)特需求

AI工作負(fù)載非常繁重且要求嚴(yán)苛，所需的算力遠(yuǎn)超傳統(tǒng)工作負(fù)載，因此，在2010年之前，AI芯片的設(shè)計(jì)還無法做到經(jīng)濟(jì)且高效。由于AI需要并行處理大量乘積累加函數(shù)，比如點(diǎn)積函數(shù)，而傳統(tǒng)的GPU恰好能夠以類似的方式并行處理圖形，因此開發(fā)者在AI應(yīng)用中為GPU找到了新的用途。

過去十年，我們看到了明顯的優(yōu)化。AI要求芯片架構(gòu)具有合適的處理器、存儲(chǔ)器陣列、高安全性，以及傳感器之間可靠的實(shí)時(shí)數(shù)據(jù)連接。因此，理想的AI芯片架構(gòu)應(yīng)能夠?qū)⒑芏嘤?jì)算元件和存儲(chǔ)器融合到一個(gè)芯片中。如今，隨著單芯片的能力逐漸接近極限，AI芯片設(shè)計(jì)正在轉(zhuǎn)向采用多芯片系統(tǒng)。

在設(shè)計(jì)中，為了讓激活值達(dá)到最大，芯片開發(fā)者需要考慮“權(quán)重”和“激活”的參數(shù)。展望未來，要優(yōu)化AI芯片架構(gòu)以提高效率，兼顧AI的軟硬件設(shè)計(jì)極其重要。

AI芯片架構(gòu)的優(yōu)勢

毫無疑問，我們正處于AI復(fù)興時(shí)期?，F(xiàn)在，我們正在攻克AI芯片設(shè)計(jì)中的種種障礙，AI芯片設(shè)計(jì)領(lǐng)域也涌現(xiàn)出了很多創(chuàng)新型企業(yè)，這些企業(yè)致力于設(shè)計(jì)更出色的AI芯片，讓芯片具備前所未有的強(qiáng)大功能。

隨著追求更先進(jìn)的工藝節(jié)點(diǎn)，AI芯片設(shè)計(jì)中的時(shí)鐘速度可以降低15%-20%，密度可以增加15%-30%，這讓開發(fā)者能夠在一個(gè)芯片上集成更多的計(jì)算元件。此外，存儲(chǔ)元件也會(huì)有所增加，AI技術(shù)可以在幾分鐘而不是幾小時(shí)內(nèi)完成訓(xùn)練，從而節(jié)省大量的時(shí)間和精力。如果企業(yè)從在線數(shù)據(jù)中心租借空間來設(shè)計(jì)AI芯片，這種節(jié)省尤為顯著，但即使企業(yè)使用內(nèi)部資源，也可以通過更有效的反復(fù)試驗(yàn)和試錯(cuò)而獲益。

在我們身邊，AI幾乎無處不在。小到物聯(lián)網(wǎng)芯片，大到服務(wù)器、數(shù)據(jù)中心和圖形加速器，AI處理器現(xiàn)已集成到幾乎所有芯片中。當(dāng)然，需要更高性能的行業(yè)會(huì)更多地利用AI芯片架構(gòu)，但隨著AI芯片的生產(chǎn)成本越來越低，AI芯片架構(gòu)將會(huì)被運(yùn)用到物聯(lián)網(wǎng)等領(lǐng)域，用于優(yōu)化功耗和實(shí)現(xiàn)其他未知的優(yōu)化。

對于AI芯片架構(gòu)來說，這是一個(gè)激動(dòng)人心的時(shí)刻。新思科技預(yù)計(jì)，由于性能需求，AI芯片設(shè)計(jì)會(huì)繼續(xù)積極采用下一代工藝節(jié)點(diǎn)。此外，開發(fā)者已經(jīng)圍繞不同類型的存儲(chǔ)器、不同類型的處理器技術(shù)以及與這些相關(guān)的軟件組件，進(jìn)行了很多探索。

在存儲(chǔ)器方面，芯片開發(fā)者開始將存儲(chǔ)器放在硬件中的實(shí)際計(jì)算元件旁邊甚至是集成到計(jì)算元件中，以加快處理速度。此外，軟件正在推動(dòng)硬件發(fā)展，也就是說，新的神經(jīng)網(wǎng)絡(luò)等軟件AI模型需要新的AI芯片架構(gòu)。經(jīng)驗(yàn)證的實(shí)時(shí)接口以高速、低延遲的方式提供所需的數(shù)據(jù)連接，同時(shí)安全策略需要確保整個(gè)系統(tǒng)及其數(shù)據(jù)的安全。

最后，在新的AI芯片架構(gòu)中，光電子技術(shù)和Multi-Die系統(tǒng)發(fā)揮著愈加重要的作用，有助于克服一些AI芯片瓶頸。光電子技術(shù)提供了一種更加節(jié)能的計(jì)算方式，與此同時(shí)，隨著不同處理元件之間以及處理單元與存儲(chǔ)器單元之間的連接速度不斷提高，Multi-Die系統(tǒng)（涉及到裸片的異構(gòu)集成，通常存儲(chǔ)器直接堆疊在計(jì)算板上）也有助于提高芯片性能。

AI芯片架構(gòu)創(chuàng)新將繼續(xù)涌現(xiàn)。新思科技也將走在行業(yè)前沿，積極幫助千行百業(yè)設(shè)計(jì)下一代AI芯片。