谷歌推新AI芯片 用于物端機(jī)器學(xué)習(xí)

兩年前，谷歌推出了旗下的張量處理器（Tensor Processing Units），即TPUs。這種芯片可以用在公司數(shù)據(jù)中心里，專門負(fù)責(zé)一些人工智能數(shù)據(jù)處理工作。

但是隨著物聯(lián)網(wǎng)的發(fā)展和物端智能計(jì)算的需求，現(xiàn)在谷歌正在將他們的人工智能計(jì)算經(jīng)驗(yàn)從云端往下搬，推出了新的Edge TPU（邊緣計(jì)算 TPU）。Edge TPU是一個(gè)體積很小的人工智能計(jì)算加速器，有了它，物聯(lián)網(wǎng)設(shè)備就能擁有處理機(jī)器學(xué)習(xí)任務(wù)的能力啦！

物端直接進(jìn)行計(jì)算的方法又叫邊緣計(jì)算（Edge Computing），所以谷歌會(huì)管該類芯片叫做Edge TPUs. 物端的意思是物聯(lián)網(wǎng)終端，就是咱們平常說的智能終端、智能手機(jī)、智能煙霧器、智能巴拉巴拉硬件。

谷歌新推出的EdgeTPU放置在一個(gè)一美分硬幣之上

Edge TPU主要是為了處理所謂“推斷”類的機(jī)器學(xué)習(xí)任務(wù)。“推斷”是在整個(gè)機(jī)器學(xué)習(xí)的過程中，被訓(xùn)練好的模型執(zhí)行任務(wù)的階段，比如從一張圖片里識(shí)別出某種物體。谷歌之前推出的服務(wù)器端的TPUs主要是負(fù)責(zé)訓(xùn)練模型的，現(xiàn)在推出的這個(gè)Edge TPUs主要是負(fù)責(zé)使用訓(xùn)練好的模型進(jìn)行“推斷”任務(wù)的。

Edge TPUs是注定要用在企業(yè)場(chǎng)景中，而非咱們的智能手機(jī)里。比如，企業(yè)工廠生產(chǎn)場(chǎng)景中的自動(dòng)質(zhì)量檢查工作就很適合Edge TPUs。相對(duì)于通過硬件設(shè)備采集數(shù)據(jù)然后通過網(wǎng)絡(luò)發(fā)送給服務(wù)器進(jìn)行分析的傳統(tǒng)方法而言，在物端直接執(zhí)行智能分析的方法有很多優(yōu)勢(shì)，包括物端機(jī)器學(xué)習(xí)更能夠保障安全性，等待和停機(jī)的時(shí)間更短，決策速度更快等。（這些優(yōu)勢(shì)是目前物端機(jī)器學(xué)習(xí)的賣點(diǎn)）

Edge TPU是TPU的小兄弟，TPU是谷歌公司用來加速人工智能計(jì)算的專用處理器，其它消費(fèi)者能夠通過買谷歌云服務(wù)來使用這項(xiàng)技術(shù)。

谷歌可不是唯一一個(gè)做這樣物端人工智能芯片的公司。ARM、Qualcomm 、Mediatek和其它很多芯片廠商都在做自己的人工智能加速器，英偉達(dá)(Nvidia)的GPUs還是市場(chǎng)上最著名的人工智能模型訓(xùn)練芯片。

然而，谷歌的優(yōu)勢(shì)是控制全棧人工智能計(jì)算硬件產(chǎn)品與服務(wù)市場(chǎng)，而競(jìng)爭(zhēng)對(duì)手們并沒有做到。用戶可以將數(shù)據(jù)存儲(chǔ)在谷歌云服務(wù)，可以通過TPUs訓(xùn)練自己的算法，可以使用Edge TPUs進(jìn)行最終的物端機(jī)器學(xué)習(xí)推斷。谷歌還將會(huì)通過自行創(chuàng)建和運(yùn)營(yíng)的一款編程框架TensorFlow來開發(fā)機(jī)器學(xué)習(xí)軟件。

這種“什么都是我們家”的垂直一體化形式（vertical integration）有明顯的優(yōu)勢(shì)。谷歌能夠保證系統(tǒng)中的每個(gè)部分間的通訊盡可能有效和流暢，使用戶能夠在谷歌的生態(tài)系統(tǒng)中操作得更容易、使用得更方便。

“你的傳感器將不再僅僅會(huì)無腦采集數(shù)據(jù)啦”

谷歌云的物聯(lián)網(wǎng)部門副總裁Injong Rhee在一篇博客中將這種新硬件形容成“一種專門用來在物端跑輕量級(jí)Tensorflow和機(jī)器學(xué)習(xí)模型的ASIC芯片”。Rhee說：“Edge TPUs是用來補(bǔ)足和完善我們?cè)贫薚PU產(chǎn)品的，有了它，你就能夠在云端用TPU加速機(jī)器學(xué)習(xí)模型的訓(xùn)練，然后在物端的設(shè)備還能有輕量級(jí)還快速的機(jī)器學(xué)習(xí)決策能力。你的傳感器就不光是一個(gè)數(shù)據(jù)采集終端了，它們還能進(jìn)行本地化、實(shí)時(shí)性的智能決策任務(wù)。”

有趣的是，谷歌也將Edge TPU當(dāng)作一個(gè)開發(fā)套件提供給消費(fèi)者，這樣一來消費(fèi)者就能輕松地測(cè)試硬件性能，也能知道到底Edge TPUs是否適合他們的產(chǎn)品了。這個(gè)開發(fā)套件中包括一個(gè)SOM（System on module，模塊化系統(tǒng)），SOM中就包括了Edge TPU芯片，還有一個(gè)NXP的CPU，一個(gè)小型化安全單元。SOM也配備Wi-Fi通訊功能。SOM能夠通過USB或者PCI-E的方式和咱們的計(jì)算機(jī)進(jìn)行連接。這套開發(fā)套件現(xiàn)在還是處于beta狀態(tài)，而且需要用戶申請(qǐng)才能試用。

在谷歌的發(fā)布新聞中，有一點(diǎn)雖然看似不起眼，但是很耐人尋味。按照谷歌的脾氣，一般不會(huì)讓公眾染指其人工智能硬件部分。但是如果谷歌想讓消費(fèi)者真正能夠使用這個(gè)技術(shù)，那肯定需要讓大家先試試它，而不是靠著谷歌振臂一呼就讓大家堅(jiān)信“谷歌大法好”，扎入谷歌人工智能大家庭的懷抱（AI Googlesphere）。這個(gè)開發(fā)板不只是為了吸引同行者，它更是表明了谷歌對(duì)于整個(gè)AI計(jì)算產(chǎn)品和服務(wù)市場(chǎng)的覬覦之心和嚴(yán)肅態(tài)度。