AI端的未來到底是在云端還是在邊緣端

一直以來，人工智能的應(yīng)用存在著一個(gè)巨大的障礙：運(yùn)行人工智能應(yīng)用程序的算法十分冗雜，且過于依賴云計(jì)算和數(shù)據(jù)中心的高算力計(jì)算機(jī)，這使得它在智能手機(jī)和其他的“邊緣”設(shè)備上的應(yīng)用并不實(shí)用。

然而現(xiàn)在，歸功于近幾個(gè)月來在軟件、硬件和能源技術(shù)上的一系列突破，這種擔(dān)憂正在迅速消散，新的技術(shù)正在快速地進(jìn)入市場(chǎng)。

這些新的技術(shù)可能會(huì)幫助人工智能驅(qū)動(dòng)的產(chǎn)品和服務(wù)進(jìn)一步擺脫對(duì)強(qiáng)大云計(jì)算服務(wù)的依賴，使它們能夠進(jìn)入我們生活的方方面面，乃至成為我們的身體的一小部分。反過來說，隨著人工智能服務(wù)變得無處不在，德勤(Deloitte)咨詢公司去年底所說的“普適智能”可能將很快實(shí)現(xiàn)，它會(huì)在未來幾年內(nèi)撼動(dòng)整個(gè)行業(yè)。

市場(chǎng)研究機(jī)構(gòu)Gartner Inc.的數(shù)據(jù)顯示，截至到2022年，80%的新發(fā)貨智能手機(jī)將具備獨(dú)立的人工智能運(yùn)算功能，這一比例高于2017年的10%。ABI Research的數(shù)據(jù)顯示，預(yù)計(jì)到2023年，將有約12億部具有人工智能運(yùn)算功能的智能手機(jī)發(fā)貨，這一數(shù)字遠(yuǎn)高于2017年的7900萬部。

對(duì)此，眾多初創(chuàng)企業(yè)及其支持者都嗅到了巨大的商機(jī)。上周，嵌入式視覺聯(lián)盟（Embedded Vision Alliance）在硅谷召開了一次會(huì)議。據(jù)該聯(lián)盟創(chuàng)始人Jeff Bier稱，過去三年里，投資者們向新成立的人工智能芯片初創(chuàng)企業(yè)一共投入了約15億美元，規(guī)?？涨?。市場(chǎng)研究機(jī)構(gòu)Yole Developpment預(yù)測(cè)，到2023年，人工智能應(yīng)用處理器的復(fù)合年增長(zhǎng)率將從目前的不足20%升至46%，屆時(shí)幾乎所有智能手機(jī)都將配備人工智能處理器。

不僅初創(chuàng)企業(yè)，老牌巨頭們也在加入競(jìng)賽的隊(duì)伍。

就在今天，英特爾展示了它即將推出的冰湖（Ice Lake）芯片，其中囊括了“深度學(xué)習(xí)支持”(Deep Learning Boost)軟件和圖形處理單元上的其他新人工智能指令。周一早間，Arm也推出了一系列針對(duì)人工智能應(yīng)用的處理器，其中包括智能手機(jī)和其他高端設(shè)備的處理器。在那幾個(gè)小時(shí)后，英偉達(dá)公司公布了其首個(gè)用于人工智能設(shè)備的平臺(tái)。

IHS Markit首席分析師Tom Hackett表示:“在未來兩年內(nèi)，幾乎每家處理器廠商都將為人工智能提供某種具備競(jìng)爭(zhēng)力的平臺(tái)。我們現(xiàn)在看到的是全新的機(jī)遇?！?/p>

這些芯片正在向智能手機(jī)以外的更多領(lǐng)域進(jìn)軍。它們還被用于數(shù)以百萬計(jì)的“物聯(lián)網(wǎng)”設(shè)備，如機(jī)器人、無人機(jī)、汽車、相機(jī)和可穿戴設(shè)備。約75家開發(fā)機(jī)器學(xué)習(xí)芯片的公司中，以以色列的Hailo公司為例，該公司在今年1月進(jìn)行了一輪2100萬美元的融資。5月中旬，該公司發(fā)布了一款專為深度學(xué)習(xí)設(shè)計(jì)的處理器。深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支，最近在語音和圖像識(shí)別方面取得了突破。

新的研究表明，神經(jīng)網(wǎng)絡(luò)的規(guī)?？梢员豢s小10倍，同時(shí)，它仍能取得類似的結(jié)果。由此可見，更為緊湊和強(qiáng)大的軟件將會(huì)為邊緣端的人工智能鋪平道路?，F(xiàn)在，一些公司已經(jīng)在設(shè)法壓縮人工智能所需的軟件規(guī)模。

例如，谷歌于2017年底推出了面向移動(dòng)設(shè)備的TensorFlow Lite機(jī)器學(xué)習(xí)庫，這使得智能相機(jī)能夠在沒有互聯(lián)網(wǎng)連接的情況下識(shí)別野生動(dòng)物，或是幫助離線成像設(shè)備進(jìn)行醫(yī)學(xué)診斷。谷歌員工研究工程師Pete Warden在嵌入式視覺峰會(huì)上的主題演講中說，目前大約有20億部移動(dòng)設(shè)備安裝了該機(jī)械學(xué)習(xí)庫。

今年3月，谷歌推出了一款語音識(shí)別器，來為谷歌虛擬鍵盤應(yīng)用程序Gboard的語音輸入功能提供支持。這個(gè)語音識(shí)別轉(zhuǎn)錄算法只有不到80兆字節(jié)，因此它完全可以在Arm 的A系列芯片上離線運(yùn)行，且不會(huì)有網(wǎng)絡(luò)延遲。

與此同時(shí)，對(duì)云端的隱私的擔(dān)憂在迅速上升，這意味著監(jiān)管部門有理由避免敏感設(shè)備間的數(shù)據(jù)交流過于頻繁。

“幾乎所有的機(jī)器學(xué)習(xí)運(yùn)算都將在設(shè)備端完成，”Bier介紹道。Bier也是伯克利設(shè)計(jì)技術(shù)公司的聯(lián)合創(chuàng)始人和總裁，該公司為嵌入式數(shù)字信號(hào)處理技術(shù)提供分析服務(wù)。這些設(shè)備的數(shù)目是巨大的。Warden指出，當(dāng)今世界上約有2500億個(gè)活躍的嵌入式設(shè)備，并且這個(gè)數(shù)字還在以每年20%的速度增長(zhǎng)。

但在這樣的設(shè)備上進(jìn)行人工智能運(yùn)算并非易事，這不僅取決于機(jī)器學(xué)習(xí)算法的大小，算法所需要的電量也格外重要。尤其是對(duì)于像智能手機(jī)、攝像頭和傳感器等物聯(lián)網(wǎng)設(shè)備來說。它們不能過于依賴插座甚至電池供電。

云端收發(fā)數(shù)據(jù)的通訊過程能耗巨大，因此通過蜂窩網(wǎng)絡(luò)或其他連接進(jìn)行通信對(duì)許多小型廉價(jià)設(shè)備來說都是一個(gè)致命的障礙。Yole development的技術(shù)和市場(chǎng)分析師Yohann Tschudi表示:“我們需要一個(gè)專門的架構(gòu)來完成低能耗的通訊。”

為此，還需要開發(fā)出一種實(shí)際能耗小于1毫瓦的設(shè)備，而這大約是智能手機(jī)用電量的千分之一。好消息是，越來越多的傳感器甚至微處理器有望做到這一點(diǎn)。

例如，美國(guó)能源部與Molex 公司、SkyCentrics建筑公司合作，開發(fā)了用于建筑能源管理的低成本無線傳感器。這個(gè)還在實(shí)驗(yàn)中的新型圖像傳感器可以利用環(huán)境光為自身供電。

而且，即使是計(jì)算的主力軍——微處理器，也可以是非常低功耗的。 Warden說:“理論上講，我們沒有理由不能在微瓦或比毫瓦小一千倍的能耗下進(jìn)行計(jì)算?！边@在一定程度上是因?yàn)?，它們可以?a href="http://www.ttokpm.com/v/tag/1315/" target="_blank">編程，例如，只有當(dāng)一些特定的事情發(fā)生時(shí)，比如液體濺到地板上，它們才會(huì)喚醒與云端的數(shù)據(jù)交流。

所有這些都表明，機(jī)器學(xué)習(xí)在智能手機(jī)、智能相機(jī)和工廠監(jiān)控傳感器等領(lǐng)域有著廣泛的新應(yīng)用。Warden說道:“確實(shí)，我們收到了很多在嵌入式設(shè)備上運(yùn)行機(jī)器學(xué)習(xí)的產(chǎn)品請(qǐng)求。”

這些應(yīng)用包括:

使用加速度計(jì)預(yù)測(cè)維修，以確定機(jī)器是否震動(dòng)太多或發(fā)出噪音。

街燈對(duì)行人的自動(dòng)檢測(cè)，只有當(dāng)有人在附近時(shí)，街燈才會(huì)打開。

利用分散在農(nóng)田中的視覺傳感器或微型攝像機(jī)進(jìn)行農(nóng)業(yè)害蟲識(shí)別。

使用安裝在樹上的老式太陽能安卓手機(jī)檢測(cè)鏈鋸的聲音，以防治非法伐木。

Warden甚至預(yù)言傳感器可以相互通信，比如在智能家居中，煙霧報(bào)警器探測(cè)到潛在的火災(zāi)時(shí)，烤面包機(jī)回答說：不，那只是燒焦的烤面包。這些只是暫時(shí)的猜測(cè)，但是谷歌已經(jīng)在不使用集中訓(xùn)練數(shù)據(jù)前提下，研究“聯(lián)合學(xué)習(xí)（federated learning）”來訓(xùn)練機(jī)器學(xué)習(xí)模型（如下）。

云端將會(huì)在機(jī)器學(xué)習(xí)中繼續(xù)扮演重要角色。但目前很明顯的是，人工智能的未來與其說是在云端，不如說是在邊緣。