首個(gè)可編程憶阻器AI計(jì)算機(jī)問世!華人教授領(lǐng)隊(duì)開發(fā)

導(dǎo)讀：近日，密歇根大學(xué)研發(fā)成功第一臺(tái)可編程的憶阻器計(jì)算機(jī)，它不僅是一個(gè)通過外部計(jì)算機(jī)運(yùn)行的憶阻器陣列，而且還是可以在智能手機(jī)等小型設(shè)備上進(jìn)行 AI 處理的計(jì)算機(jī)。

憶阻器（Memristor，全稱記憶電阻器）陣列芯片插入定制的計(jì)算機(jī)芯片，第一臺(tái)可編程的憶阻器計(jì)算機(jī)就此誕生。該研究團(tuán)隊(duì)證明了憶阻器計(jì)算機(jī)可以運(yùn)行三種標(biāo)準(zhǔn)的機(jī)器學(xué)習(xí)算法。

這臺(tái)可編程的憶阻器計(jì)算機(jī)可以直接在類似于智能手機(jī)和傳感器等能耗受限的小型設(shè)備上來進(jìn)行人工智能處理。智能手機(jī)的人工智能處理器意味著語音命令將不再需要發(fā)送到云端進(jìn)行處理，從而加快了請(qǐng)求的響應(yīng)時(shí)間。

“每個(gè)人都想在智能手機(jī)上安裝一個(gè)人工智能處理器，但大家都不想讓自己的手機(jī)電量消耗得太快。”美國密歇根大學(xué)電氣工程和計(jì)算機(jī)科學(xué)學(xué)院教授 Wei Lu這樣說道。而在醫(yī)療設(shè)備中，人工智能算法就無需在云端運(yùn)行，這可以確保更好的安全性和隱私保密性。

何為憶阻器？

實(shí)現(xiàn)可編程憶阻器計(jì)算機(jī)的關(guān)鍵可能是憶阻器的高級(jí)計(jì)算機(jī)組件。

那什么是憶阻器呢？簡單來說，這是一個(gè)帶有存儲(chǔ)功能的電阻器，它有著可變電阻，可以作為信息存儲(chǔ)的一種方式。由于憶阻器在同一位置進(jìn)行信息存儲(chǔ)和處理，因此可以繞過計(jì)算速度和功率的最大瓶頸：內(nèi)存和處理器之間的通道。

用常見的水管來比喻，電流是通過的水量，而電阻是水管的粗細(xì)時(shí)，當(dāng)水從一個(gè)方向流過去，水管會(huì)隨著水流量而越來越粗，這時(shí)如果把水流關(guān)掉的話，水管的粗細(xì)會(huì)維持不變；反之，當(dāng)水從相反方向流動(dòng)時(shí)，水管就會(huì)越來越細(xì)。因?yàn)檫@樣的組件會(huì)“記住”之前的電流量，因此被稱為憶阻器。

憶阻器為何有利于機(jī)器學(xué)習(xí)？

由于憶阻器尺寸小、能耗低，所以能很好地儲(chǔ)存和處理信息，一個(gè)憶阻器的工作量相當(dāng)于一枚 CPU 芯片中十幾個(gè)晶體管共同產(chǎn)生的效用。

這對(duì)于需要處理大量數(shù)據(jù)的機(jī)器學(xué)習(xí)算法尤其重要，例如識(shí)別照片和視頻中的對(duì)象，或是預(yù)測(cè)哪些醫(yī)院的患者更容易感染等實(shí)際問題。程序員已經(jīng)傾向于在圖像處理單元上運(yùn)行這些算法，而不是在計(jì)算機(jī)的主處理器和中央處理單元上來運(yùn)行。

Wei Lu 表示：“在功率和吞吐量方面，GPU 和定制化及優(yōu)化度很高的數(shù)字電路的性能是 CPU 的 10 到 100倍，而憶阻器人工智能處理器的性能可能會(huì)再提高 10到 100 倍。”

GPU 在機(jī)器學(xué)習(xí)任務(wù)中表現(xiàn)得更好，因?yàn)樗鼈冇袛?shù)千個(gè)小型的內(nèi)核可以同時(shí)進(jìn)行計(jì)算，而不是等待一個(gè) CPU 中少數(shù)幾個(gè)功能強(qiáng)大的內(nèi)核來運(yùn)行這一系列的計(jì)算。

一個(gè)憶阻器陣列甚至可以更進(jìn)一步，每個(gè)憶組器都能進(jìn)行自己的計(jì)算，并且允許在一個(gè)內(nèi)核里同時(shí)進(jìn)行數(shù)千次的運(yùn)算。在這臺(tái)用于實(shí)驗(yàn)的計(jì)算機(jī)中，有 5800 多個(gè)憶阻器，如果是用于商業(yè)化的計(jì)算機(jī)則可能包括數(shù)百萬個(gè)。

憶阻器陣列特別適用于解決機(jī)器學(xué)習(xí)領(lǐng)域的問題。這是因?yàn)闄C(jī)器學(xué)習(xí)算法在本質(zhì)上是把數(shù)據(jù)轉(zhuǎn)化為向量，即數(shù)據(jù)點(diǎn)列表。例如，在預(yù)測(cè)患者在醫(yī)院里感染的風(fēng)險(xiǎn)時(shí)，向量可能以數(shù)字的形式列出患者的風(fēng)險(xiǎn)因素。

然后，機(jī)器學(xué)習(xí)算法將這些“輸入”的向量與存儲(chǔ)在內(nèi)存中的“特征”向量進(jìn)行比較。這些特征向量表示數(shù)據(jù)的某些特征（例如潛在疾病的存在幾率）。如果相匹配，那么系統(tǒng)就知道輸入的數(shù)據(jù)具有這種特征。向量存儲(chǔ)在矩陣中，就像數(shù)學(xué)中的電子表格一樣，這些矩陣可以直接映射到憶阻器的陣列上。

更重要的是，當(dāng)數(shù)據(jù)通過陣列進(jìn)行輸入的時(shí)候，大部分的數(shù)學(xué)處理過程是通過憶阻器中的自然電阻進(jìn)行的，這也就消除了為了執(zhí)行計(jì)算而將特征向量移入和移出內(nèi)存的需要，這使得陣列在復(fù)雜的矩陣計(jì)算過程中保持很高的效率。

早期的研究證明了憶阻器陣列在提高機(jī)器學(xué)習(xí)效率方面的潛力，但它們需要外部的計(jì)算組件來發(fā)揮作用。

創(chuàng)建可編程的憶阻器計(jì)算機(jī)

為了創(chuàng)建第一臺(tái)可編程的憶阻器計(jì)算機(jī)，Wei Lu 的團(tuán)隊(duì)與密歇根大學(xué)電子與計(jì)算機(jī)工程學(xué)院的 Zhengya Zhang 副教授、Michael Flynn 教授一起合作，設(shè)計(jì)出了一種芯片，可以將憶阻器陣列與編程及運(yùn)行所需的所有其余組件集成在一起，這些組件包括一個(gè)傳統(tǒng)的數(shù)字處理器和通信通道，以及數(shù)字與模擬信號(hào)的轉(zhuǎn)換器，作為模擬憶阻器陣列和計(jì)算機(jī)其余部分之間的解釋器。

接下來，Wei Lu 的團(tuán)隊(duì)將憶阻器陣列直接集成到密歇根大學(xué)勞瑞納米加工技術(shù)實(shí)驗(yàn)室（Lurie Nanofabrication Facility ）的芯片上。另外，他們還開發(fā)了將機(jī)器學(xué)習(xí)算法映射到憶阻器陣列的矩陣結(jié)構(gòu)上的軟件。

該團(tuán)隊(duì)使用了三個(gè)很實(shí)用的機(jī)器學(xué)習(xí)算法進(jìn)行了演示：

感知器（Perceptron）用于對(duì)信息進(jìn)行分類，能夠 100% 地識(shí)別出不完美的希臘字母；

稀疏編碼（Sparse coding）用于對(duì)數(shù)據(jù)進(jìn)行壓縮和分類，尤其是對(duì)圖像數(shù)據(jù)，計(jì)算機(jī)能夠找到最有效的方法來重建一組圖像，并且能夠 100% 地識(shí)別出模式；

雙層神經(jīng)網(wǎng)絡(luò)（Two-layer neural network）用于在復(fù)雜的數(shù)據(jù)中查找模式，它在乳腺癌篩查數(shù)據(jù)中發(fā)現(xiàn)了其中的共性和區(qū)分因素的特征，然后將每一個(gè)病例都按照惡性或是良性進(jìn)行分類，準(zhǔn)確率可達(dá)到 94.6%。

華人教授領(lǐng)隊(duì)開發(fā)

可編程憶阻器計(jì)算機(jī)是由美國密歇根大學(xué)電氣工程和計(jì)算機(jī)科學(xué)學(xué)院的華人教授 Wei Lu 帶隊(duì)研發(fā)。

照片為 Wei Lu 與第一作者 Seung Hwan Lee 在一起。Seung Hwan Lee 是一名機(jī)電工程博士生，手里正拿著一個(gè)憶阻器陣列。圖片來源：Robert Coelius，密歇根工程學(xué)院

We Lu 教授的研究方向包括基于雙端電阻器件（RRAM）的高密度存儲(chǔ)器、憶阻器和憶阻系統(tǒng)、神經(jīng)形態(tài)電路和其他新興電子器件。他于 1996 年獲得清華大學(xué)物理學(xué)學(xué)士和電子與計(jì)算機(jī)工程學(xué)士學(xué)位，2003 年獲得德克薩斯州休斯頓大學(xué)、萊斯大學(xué)和德克薩斯大學(xué)博士學(xué)位。從 2003 年到2005 年，他是馬薩諸塞州劍橋市哈佛大學(xué)的博士后研究員。他于 2005 年進(jìn)入密歇根大學(xué)，現(xiàn)任密歇根大學(xué)勞瑞納米加工技術(shù)實(shí)驗(yàn)室教授和主任。

同時(shí)，他還是 IEEE 研究員，Nanoscale 期刊副主編，并于 2009 年獲得 NSF CAREER 獎(jiǎng)，2012 年獲得 EECS 杰出成就獎(jiǎng)，2014-15 獲得 Rexford E. Hall 創(chuàng)新卓越獎(jiǎng)，2016-2017 獲得 David E. Liddle Research Excellent 獎(jiǎng)。迄今為止，他已發(fā)表了 100 多篇期刊論文，論文引用量達(dá) 22,000，其 H 指數(shù)為 63（Google Scholar）。此外，他還是 Crossbar Inc 的聯(lián)合創(chuàng)始人，該公司是一家開發(fā)下一代非易失性存儲(chǔ)器的硅谷半導(dǎo)體公司。

2017 年，Wei Lu 的研究團(tuán)隊(duì)曾研究出儲(chǔ)備池計(jì)算系統(tǒng)（reservoir computing system），并發(fā)表在《自然·通信》上。該新型神經(jīng)網(wǎng)絡(luò)由憶阻器構(gòu)成，可以顯著提高機(jī)器學(xué)習(xí)人類思維的效率，網(wǎng)絡(luò)能夠在對(duì)話期間預(yù)測(cè)接下來要講詞匯，并能夠基于當(dāng)前對(duì)話情況預(yù)測(cè)結(jié)果。

（圖源：領(lǐng)英）

該項(xiàng)目的合作研發(fā)者 Zhengya Zhang 同樣為電子與計(jì)算機(jī)工程學(xué)院的華人教授 ，資料顯示，他在密歇根大學(xué)從事研究已超過 9 年。

憶阻器商業(yè)化前景

Wei Lu 的研究團(tuán)隊(duì)表示，在憶阻器的商業(yè)應(yīng)用拓展層面，目前還存在著一些挑戰(zhàn)，它還達(dá)不到該團(tuán)隊(duì)所期望的目標(biāo)，而且存儲(chǔ)在陣列中的信息也不是完全可靠的，因?yàn)樗窃谀M的連續(xù)介質(zhì)上運(yùn)行，并不是以數(shù)字形式，這些都是 Wei Lu 團(tuán)隊(duì)未來的研究方向。

目前，Wei Lu 計(jì)劃將這項(xiàng)技術(shù)商業(yè)化。該項(xiàng)研究的課題為“一種完全集成的可重編碼的憶阻器 —— 用于高效的乘積-累加運(yùn)算的CMOS系統(tǒng)”。該研究由美國國防部先進(jìn)研究項(xiàng)目局、應(yīng)用驅(qū)動(dòng)架構(gòu)中心和美國國家科學(xué)基金會(huì)進(jìn)行資助。