新型存儲(chǔ)器是怎樣創(chuàng)造AI算力的

之前的計(jì)算時(shí)代（大型機(jī)/小型機(jī)、PC/服務(wù)器和智能手機(jī)/平板電腦）都受益于摩爾定律的進(jìn)步，即2D縮放同時(shí)伴隨著性能、功耗和面積/成本的提高（也被稱為“PPAC”）。

當(dāng)人工智能應(yīng)用蓬勃發(fā)展時(shí)，摩爾定律正在放緩；因此，該行業(yè)需要突破2D縮放，以新的方式驅(qū)動(dòng)PPAC。具體來(lái)說(shuō)，我們需要新的計(jì)算架構(gòu)、新的材料、新的結(jié)構(gòu)（尤其是節(jié)省面積的3D結(jié)構(gòu)）以及先進(jìn)的芯片堆疊和異構(gòu)設(shè)計(jì)的封裝。

AI時(shí)代結(jié)構(gòu)設(shè)計(jì)的變化影響了邏輯和存儲(chǔ)。機(jī)器學(xué)習(xí)算法大量使用了矩陣乘法運(yùn)算，而這些運(yùn)算在通用邏輯中十分繁瑣，這推動(dòng)了加速器及存儲(chǔ)器的發(fā)展。AI計(jì)算包括兩個(gè)不同的內(nèi)存任務(wù)：首先，存儲(chǔ)計(jì)算的中間結(jié)果；其次，存儲(chǔ)與訓(xùn)練模型相關(guān)的權(quán)重。

性能和功耗在云計(jì)算和邊緣計(jì)算中都很重要，而存儲(chǔ)方面的創(chuàng)新可能會(huì)有所幫助。使用現(xiàn)有內(nèi)存技術(shù)的一種方法是“近內(nèi)存”，即大量的工作內(nèi)存被壓縮后放置在接近邏輯的物理位置，并通過(guò)高速接口連接。在這些應(yīng)用場(chǎng)景中，SRAM和DRAM作為“工作內(nèi)存”的一個(gè)主要缺點(diǎn)是，它們是易失的，需要持續(xù)供電來(lái)保存數(shù)據(jù)（比如權(quán)重）。

為了降低云計(jì)算和邊緣計(jì)算的功耗，設(shè)計(jì)人員正在評(píng)估將高性能和非易失性結(jié)合在一起的新型存儲(chǔ)，以便只在讀寫(xiě)操作期間需要耗電。三種主要的新存儲(chǔ)器候選是磁性隨機(jī)存取存儲(chǔ)器（MRAM）、相變存儲(chǔ)器（PCRAM）和電阻存儲(chǔ)器（ReRAM）。

這三種存儲(chǔ)器都采用了新的材料，可以被設(shè)計(jì)成高電阻率和低電阻率，而高電阻率和低電阻率又分別代表0和1。MRAM通過(guò)改變磁性方向來(lái)控制電阻率；PCRAM利用材料從無(wú)定形到結(jié)晶的排列變化；ReRAM在材料中創(chuàng)建了一個(gè)纖維。PCRAM和ReRAM都提供了電阻率中間階段的可能性，允許在每個(gè)單元中存儲(chǔ)多個(gè)比特。

讓我們來(lái)研究一下AI時(shí)代的計(jì)算應(yīng)用場(chǎng)景，以及它們是如何推動(dòng)路線圖中的創(chuàng)新的。

物聯(lián)網(wǎng)的邊緣計(jì)算應(yīng)用可以分為低性能/低功耗應(yīng)用和高性能/高功耗應(yīng)用。

低性能/低功耗應(yīng)用的例子是安全攝像頭，它可以在用戶端應(yīng)用AI算法實(shí)現(xiàn)面部和語(yǔ)音識(shí)別。設(shè)計(jì)目標(biāo)是在邊緣處理盡可能多的數(shù)據(jù)，只向云端傳輸重要的信息。性能要求低是因?yàn)椴蓸勇实?，包括備?a target="_blank">電源在內(nèi)的電力消耗是至關(guān)重要的，特別是在電池供電的設(shè)備中。

業(yè)界目前在邊緣計(jì)算設(shè)備中使用SRAM內(nèi)存。SRAM并不理想，因?yàn)樗總€(gè)存儲(chǔ)單元需要多達(dá)6個(gè)晶體管，而且工作室漏電可能很高。SRAM在存儲(chǔ)權(quán)重時(shí)并不節(jié)能，在低頻設(shè)計(jì)中尤其如此。作為一種替代方案，MRAM承諾將使晶體管密度提高數(shù)倍，從而實(shí)現(xiàn)更高的存儲(chǔ)密度或更小的芯片尺寸。MRAM的另一個(gè)關(guān)鍵特性是它可以被設(shè)計(jì)成嵌入式系統(tǒng)芯片產(chǎn)品的后端互連層。MRAM可用于存儲(chǔ)SOC的操作系統(tǒng)和應(yīng)用程序，從而消除了為此目的而使用嵌入式閃存芯片的需要，從而降低了系統(tǒng)芯片總數(shù)和成本。

高性能的“近邊緣”應(yīng)用場(chǎng)景，如缺陷檢測(cè)和醫(yī)學(xué)篩選，需要更高的性能。一種被稱為自旋軌道轉(zhuǎn)矩MRAM （SOT-MRAM）的MRAM變體可能被證明比自旋轉(zhuǎn)矩轉(zhuǎn)移MRAM （STT-MRAM）更快、更低功耗。

云計(jì)算需要盡可能高的計(jì)算性能，而訓(xùn)練需要大量的數(shù)據(jù)來(lái)接近機(jī)器學(xué)習(xí)加速器，因此機(jī)器學(xué)習(xí)加速器有大量的片內(nèi)SRAM緩存，并輔之以大量的片外DRAM陣列，這些DRAM陣列需要恒定的功耗。用電量對(duì)云服務(wù)提供商很重要，因?yàn)樵谌斯ぶ悄軙r(shí)代，數(shù)據(jù)呈指數(shù)級(jí)增長(zhǎng)，而電網(wǎng)電力有限且昂貴。PCRAM是云計(jì)算架構(gòu)的一個(gè)主要候選者，因?yàn)樗菵RAM提供更低的功耗和成本，并且比固態(tài)硬盤(pán)和硬盤(pán)驅(qū)動(dòng)器具有更高的性能。

除了這些“二進(jìn)制”邊緣、近邊緣和云應(yīng)用之外，還有對(duì)存儲(chǔ)器內(nèi)計(jì)算的研究。機(jī)器學(xué)習(xí)的頻繁矩陣乘法運(yùn)算可以在一個(gè)存儲(chǔ)器陣列中執(zhí)行，設(shè)計(jì)人員正在探索偽交叉點(diǎn)架構(gòu)，其中的權(quán)重存儲(chǔ)在每個(gè)內(nèi)存節(jié)點(diǎn)上。PCRAM、ReRAM甚至是鐵電場(chǎng)效應(yīng)晶體管（FeFETs）都是很好的選擇，因?yàn)樗鼈兌加袑?shí)現(xiàn)每單元存儲(chǔ)多bit的潛力。目前，ReRAM似乎是這個(gè)應(yīng)用場(chǎng)景最可行的內(nèi)存，矩陣乘法可以利用歐姆定律和基爾霍夫定律在陣列內(nèi)完成，而不需要將權(quán)重移進(jìn)移出芯片。多層單元結(jié)構(gòu)保證了新的內(nèi)存密度級(jí)別，允許設(shè)計(jì)和使用更大的模型。要實(shí)現(xiàn)這些新的模擬存儲(chǔ)器，需要對(duì)新材料進(jìn)行廣泛的開(kāi)發(fā)和工程設(shè)計(jì)，而應(yīng)用材料公司正在積極開(kāi)拓一些領(lǐng)先的候選領(lǐng)域。

雖然摩爾定律的指數(shù)增長(zhǎng)速度已經(jīng)放緩，但人工智能時(shí)代的數(shù)據(jù)仍將呈指數(shù)級(jí)增長(zhǎng)。這種趨勢(shì)已經(jīng)推動(dòng)了建筑、材料、3D結(jié)構(gòu)和先進(jìn)封裝技術(shù)的創(chuàng)新——用于芯片堆疊和異構(gòu)集成。存儲(chǔ)越來(lái)越接近人工智能計(jì)算引擎，最終，存儲(chǔ)可能成為人工智能計(jì)算的引擎。隨著這些創(chuàng)新的展開(kāi)，我們將看到性能、功耗和密度（面積/成本）方面的顯著改善——新興存儲(chǔ)優(yōu)化以滿足邊緣計(jì)算、近邊緣和云計(jì)算的需求。實(shí)現(xiàn)硬件方面的復(fù)興，才能充分挖掘人工智能時(shí)代的潛力。

責(zé)任編輯：ct