賓夕法尼亞大學(xué)(UPenn)研究人員最近使用新材料展示了模擬內(nèi)存計(jì)算電路如何為人工智能計(jì)算提供可編程解決方案。
為了推進(jìn)人工智能,賓夕法尼亞大學(xué)的研究人員最近開發(fā)了一種用于數(shù)據(jù)密集型計(jì)算的新型內(nèi)存計(jì)算 (CIM) 架構(gòu)。CIM 在大數(shù)據(jù)應(yīng)用方面具有諸多優(yōu)勢(shì),UPenn研究小組在生產(chǎn)小型、強(qiáng)大的 CIM 電路方面邁出了第一步。
在本文中,我們將更深入地了解 CIM 的原理以及使研究人員能夠?qū)崿F(xiàn)無晶體管 CIM 架構(gòu)的器件物理特性。
為什么要內(nèi)存中計(jì)算?
傳統(tǒng)上,計(jì)算主要依賴于基于馮諾依曼架構(gòu)的互連設(shè)備。在此架構(gòu)的簡化版本中,存在三個(gè)計(jì)算構(gòu)建:內(nèi)存、輸入/輸出 (I/O) 接口和中央處理單元 (CPU)。
馮諾依曼架構(gòu),其中內(nèi)存與CPU不位于同一位置。圖片由Nature提供
每個(gè)構(gòu)建塊都可以根據(jù) CPU 給出的指令與其他構(gòu)建塊交互。然而,隨著 CPU 速度的提高,內(nèi)存訪問速度會(huì)大大降低整個(gè)系統(tǒng)的性能。這在需要大量數(shù)據(jù)的人工智能等數(shù)據(jù)密集型用例中更為復(fù)雜。此外,如果內(nèi)存未與處理器位于同一位置,則由于光速限制會(huì)進(jìn)一步降低性能。
所有這些問題都可以通過 CIM 系統(tǒng)來解決。在 CIM 系統(tǒng)中,內(nèi)存塊和處理器之間的距離大大縮短,內(nèi)存?zhèn)鬏斔俣瓤赡軙?huì)更高,從而可以實(shí)現(xiàn)更快的計(jì)算。
氮化鈧鋁:內(nèi)置高效內(nèi)存
UPenn 的 CIM 系統(tǒng)利用氮化鈧鋁(AlScN) 的獨(dú)特材料特性來生產(chǎn)小型高效的內(nèi)存塊。AlScN 是一種鐵電材料,這意味著它可能在外部電場(chǎng)的響應(yīng)下產(chǎn)生極化。通過改變施加的電場(chǎng)超過一定的閾值,鐵電二極管(FeD)可以被編程到低電阻或高電阻狀態(tài)(分別為LRS或HRS)。
顯示兩種極化狀態(tài)的 AlScN 鐵電二極管插圖。每個(gè)狀態(tài)都表現(xiàn)出低電阻或高電阻狀態(tài),使其成為一種有效的記憶形式。圖片由UPenn ESE提供
除了作為存儲(chǔ)單元的可操作性之外,AlScN 還可用于創(chuàng)建沒有晶體管的三元內(nèi)容可尋址存儲(chǔ) (TCAM) 單元。TCAM 單元對(duì)于大數(shù)據(jù)應(yīng)用非常重要,因?yàn)槭褂民T諾依曼架構(gòu)搜索數(shù)據(jù)可能非常耗時(shí)。使用 LRS 和 HRS 狀態(tài)的組合,研究人員實(shí)現(xiàn)了一個(gè)有效的三態(tài)并聯(lián),所有這些都沒有使用晶體管。
使用無晶體管 CIM 陣列的神經(jīng)網(wǎng)絡(luò)
為了展示 AlScN 執(zhí)行 CIM 操作的能力,UPenn 小組開發(fā)了一個(gè)使用 FeD 陣列的卷積神經(jīng)網(wǎng)絡(luò) (CNN)。該陣列通過對(duì)輸入電壓產(chǎn)生的輸出電流求和來有效地完成矩陣乘法。權(quán)重矩陣(即輸出電流和輸入電壓之間的關(guān)系)可以通過修改單元的電導(dǎo)率來調(diào)整到離散水平。這種調(diào)諧是通過偏置 AlScN 薄膜以表現(xiàn)出所需的電導(dǎo)來實(shí)現(xiàn)的。
由 AlScN FeD 陣列組成的神經(jīng)網(wǎng)絡(luò)。通過調(diào)整每個(gè) FeD 的電導(dǎo)率,可以修改權(quán)重/電導(dǎo)矩陣以實(shí)現(xiàn)矩陣乘法。圖片由UPenn ESE提供
AlScN CNN 僅使用 4 位電導(dǎo)率分辨率就成功地從MNIST 數(shù)據(jù)集中識(shí)別出手寫數(shù)字,與 32 位浮點(diǎn)軟件相比,性能僅下降約為 2%。此外,由于沒有晶體管,架構(gòu)簡單且可擴(kuò)展,使其成為未來需要高性能矩陣代數(shù)的人工智能應(yīng)用的優(yōu)秀計(jì)算技術(shù)。
打破馮諾依曼瓶頸
在其存在的大部分時(shí)間里,人工智能計(jì)算主要是一個(gè)軟件領(lǐng)域。然而,隨著數(shù)據(jù)變得更加密集,馮諾依曼瓶頸對(duì)系統(tǒng)有效計(jì)算的能力產(chǎn)生了更深的影響,使得非常規(guī)架構(gòu)變得更加有價(jià)值。
基于AlScN FeDs的模擬CIM系統(tǒng)消除了訓(xùn)練和評(píng)估神經(jīng)網(wǎng)絡(luò)的一個(gè)主要延遲原因,使其更容易在現(xiàn)場(chǎng)部署。AlScN器件與現(xiàn)有硅硬件集成的多功能性可能會(huì)提供一種突破性的方法,將人工智能集成到更多的領(lǐng)域。
審核編輯:劉清
-
晶體管
+關(guān)注
關(guān)注
77文章
9610瀏覽量
137661 -
TCAM
+關(guān)注
關(guān)注
0文章
19瀏覽量
14046 -
CIM
+關(guān)注
關(guān)注
1文章
86瀏覽量
14769
原文標(biāo)題:無晶體管的存內(nèi)計(jì)算架構(gòu)
文章出處:【微信號(hào):bdtdsj,微信公眾號(hào):中科院半導(dǎo)體所】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論