存內(nèi)模擬計算將如何打破AI算力的瓶頸

（文章來源：雷鋒網(wǎng)）
? ? ?? 2012年，深度學習算法在圖像分類競賽中展現(xiàn)出的顯著性能提升引發(fā)了新一輪的AI熱潮。2015年，深度學習算法對芯片的快速增長需求引發(fā)了AI芯片創(chuàng)業(yè)熱潮。

不過，擁抱AI芯片的設(shè)計者們很快發(fā)現(xiàn)，使用經(jīng)典馮諾依曼計算架構(gòu)的AI芯片即使在運算單元算力大幅提升，但存儲器性能提升速度較慢的情況下，兩者的性能差距越來越明顯，而深度學習算法帶來的數(shù)據(jù)搬運消耗的能量是計算消耗能量的幾十倍甚至幾百倍，“內(nèi)存墻”的問題越來越顯著。

因此，依靠軟件算法以及云端強大計算能力的人工智能雖然取得了較大的成功，可以勝任多種特定的智能處理任務(wù)，但是面臨功耗、速度、成本等諸多挑戰(zhàn)，離智能萬物互聯(lián)時代還有巨大差距。

AI芯片的核心技術(shù)之一就是解決“內(nèi)存墻”挑戰(zhàn)，可以在存儲器內(nèi)直接做計算的存內(nèi)計算（In-Memory Computing）技術(shù)在沉寂了近30年后，AI熱潮下近年來成為焦點。無論是頂級學術(shù)會議，還是巨頭公司都在尋找能夠用存內(nèi)計算打破AI芯片“內(nèi)存墻”的最佳技術(shù)方案。

2018年，國際頂級學術(shù)會議-IEEE國際固態(tài)電路會議（ISSCC）有一個專門的議程討論存內(nèi)計算。2019年和2020年關(guān)于存內(nèi)運算的論文更是大爆發(fā)，ISSCC2020與存內(nèi)計算相關(guān)的論文數(shù)量上升到了7篇。同時，2019年電子器件領(lǐng)域頂級會議IEDM有三個專門的議程共二十余篇存內(nèi)計算相關(guān)的論文。

除了學術(shù)界，產(chǎn)業(yè)界也越來越多的玩家布局該技術(shù)。IBM基于其獨特的相變存內(nèi)計算已經(jīng)有了數(shù)年的技術(shù)積累；臺積電正大力推進基于ReRAM的存內(nèi)計算方案；英特爾、博世、美光、Lam Research、應(yīng)用材料、微軟、亞馬遜、軟銀則投資了基于NOR Flash的存內(nèi)計算芯片。

其實，利用存儲器做計算在很早以前就有人研究，上世紀90年代就有學者發(fā)表過相關(guān)論文。但沒有人真正實現(xiàn)產(chǎn)業(yè)落地，究其原因，一方面是設(shè)計挑戰(zhàn)比較大，更為關(guān)鍵的是沒有殺手級應(yīng)用。隨著深度學習的大規(guī)模爆發(fā)，存內(nèi)計算技術(shù)才開始產(chǎn)業(yè)化落地。

2011年，郭昕婕本科畢業(yè)于北大信息科學技術(shù)學院微電子專業(yè)，本科畢業(yè)之后郭昕婕開始了美國加州大學圣塔芭芭拉分校（UCSB）的博士學業(yè)，她的導師Dmitri B.Strukov教授是存內(nèi)計算領(lǐng)域的學術(shù)大牛，2008年在惠普完成了憶阻器的首次制備，2010年加入了美國加州大學圣塔芭芭拉分校。郭昕婕也成為了Dmitri B.Strukov教授的第一批博士生，開始了基于NOR FLASH存內(nèi)計算芯片的研究。

Dmitri B. Strukov告訴她，F(xiàn)LASH已經(jīng)商用幾十年，技術(shù)成熟，成本很低，是最接近產(chǎn)業(yè)化的方向，但缺點同樣是因為FLASH研究起步較早，學術(shù)界對FLASH存內(nèi)計算的研究期望較高，發(fā)表文章不易。2013年，隨著深度學習的研究熱潮席卷學術(shù)界，在導師的支持下，郭昕婕開始嘗試基于NOR FLASH存內(nèi)計算的芯片研發(fā)。

耗時4年，歷經(jīng)6次流片，郭昕婕終于在2016年研發(fā)出全球第一個3層神經(jīng)網(wǎng)絡(luò)的浮柵存內(nèi)計算深度學習芯片，首次驗證了基于浮柵晶體管的存內(nèi)計算在深度學習應(yīng)用中的效用。僅一年后，她就進一步攻下7層神經(jīng)網(wǎng)絡(luò)的浮柵存內(nèi)計算深度學習芯片。

也是在2016年，郭昕婕的大學同學，也是她丈夫的王紹迪，同樣看到了存內(nèi)計算芯片在AI中的應(yīng)用價值，選擇和郭昕婕繼續(xù)在博士后階段從事存內(nèi)計算的研究工作。2017年，美國開始大力資助存內(nèi)計算技術(shù)的研發(fā)，王紹迪和其導師的項目也獲得了600萬美金的資助。郭昕婕夫婦認為時機成熟，毅然選擇回國創(chuàng)業(yè)，并獲得了啟迪之星、兆易創(chuàng)新等關(guān)聯(lián)人的投資支持。

2017年10月，知存科技在北京成立，由于積累了豐富的經(jīng)驗，知存科技在成立后的10個月內(nèi)就首次流片。同時加上存內(nèi)計算技術(shù)逐漸獲得認可，知存科技的發(fā)展也在逐步加快，并于2018年12月獲得獲訊飛領(lǐng)投的天使+輪融資，2019年8月又獲得中芯聚源領(lǐng)投的近億元A輪融資。

王紹迪對存內(nèi)計算技術(shù)在AI中的應(yīng)用充滿信心，他接受雷鋒網(wǎng)采訪時表示：“AI算法的參數(shù)越多，存內(nèi)計算的優(yōu)勢越大。因為存內(nèi)計算是在存儲器中儲存了一個操作數(shù)，輸入另一個操作數(shù)后就可以得到運算結(jié)果。所以參數(shù)越多，節(jié)省的數(shù)據(jù)搬運就越多，優(yōu)勢也就越明顯。存內(nèi)計算可以看作是一個大的錘子，AI算法是釘子，早期落地的算法是小釘子，隨著時間推演，釘子會越來越大越來越多?！?/p>

知存科技的方案是從底層重新設(shè)計存儲器，利用NOR FLASH存儲單元的物理特性，對存儲陣列進行改造，重新設(shè)計外圍電路使其能夠容納更多的數(shù)據(jù)，同時將算子也存儲到存儲器當中，使得每個單元都能進行模擬運算并且能直接輸出運算結(jié)果，以達到存內(nèi)計算的目的。
? ? ? （責任編輯：fqj）