谷歌宣布全面開放TPU 正式向英偉達(dá)開炮

谷歌又放大招啦——全面開放TPU云服務(wù)。

13日，谷歌傳奇Jeff Dean連發(fā)10條推特，正式宣布TPU首次對(duì)外全面開放，具體來說是將“有限數(shù)量”TPU（為機(jī)器學(xué)習(xí)定制的人工智能芯片）向谷歌云客戶開放，每小時(shí)收費(fèi)6.5美元。

此舉意味著TPU的商業(yè)化正在加速。 也意味著谷歌將在GPU領(lǐng)域與英偉達(dá)正面交鋒。

TPU到底厲不厲害？

TPU是谷歌為機(jī)器學(xué)習(xí)而設(shè)計(jì)的人工智能定制芯片，是一種ASIC（專用集成電路）。是谷歌為機(jī)器學(xué)習(xí)而設(shè)計(jì)的人工智能定制芯片，第一代TPU于2016年低調(diào)推出，廣泛應(yīng)用在AlphaGo、搜索、翻譯、相冊(cè)等背后的機(jī)器學(xué)習(xí)模型中。在AlphaGo戰(zhàn)勝李世石的系列賽中，TPU能讓AlphaGo“思考”更快，“想”到更多棋招、更好地預(yù)判局勢(shì)。

第二代TPU是在2017年5月18日的Google I/O 大會(huì)上推出，也稱為云TPU。云TPU對(duì)推理和訓(xùn)練都進(jìn)行了優(yōu)化，每個(gè) Cloud TPU 包含 4 個(gè)定制化的 ASIC，每個(gè) Cloud TPU 的計(jì)算能力達(dá)到每秒 180 萬億次浮點(diǎn)運(yùn)算（180 teraflops），并提供有 64GB 的高帶寬內(nèi)存。

另外，這些電路卡即可以單獨(dú)使用，也可以通過超高速專用網(wǎng)絡(luò)連接起來，形成一個(gè)多層次的機(jī)器學(xué)習(xí)超級(jí)計(jì)算器，谷歌將之稱為“TPU pod”。谷歌預(yù)計(jì)今年晚些時(shí)候，將會(huì)開始供應(yīng)這種更大的超級(jí)計(jì)算器，并表示訓(xùn)練的時(shí)間-精度比將得到顯著提升。

宣布開放，就是正式向英偉達(dá)開炮

在AI領(lǐng)域，眾所周知英偉達(dá)的GPU在AI時(shí)代獨(dú)占鰲頭，紅利盡享。其勁敵就是谷歌的TPU。此前TPU并未向第三方用戶開放，英偉達(dá)的黃仁勛在談到谷歌TPU時(shí)，就曾強(qiáng)硬的表示，對(duì)GPU并不構(gòu)成實(shí)質(zhì)性威脅。

當(dāng)時(shí)，老黃還列了列參數(shù)：新的TPU可以實(shí)現(xiàn)45 teraflop的運(yùn)算能力，而英偉達(dá)最新的Volta GPU則能達(dá)到120 teraflop。不知道黃教主此刻是何種心情。

當(dāng)然此前谷歌也并不是 TPU 的唯一使用者，美國出行服務(wù)公司 Lyft 在去年底開始參與了谷歌新型芯片的測(cè)試。Lyft的軟件總監(jiān)Anantha Kancherla表示，“自從使用Google Cloud TPU以來，我們對(duì)其速度印象非常深刻，以前通常需要幾天，而現(xiàn)在可能需要幾個(gè)小時(shí)。深度學(xué)習(xí)正成為使自動(dòng)駕駛車輛得以運(yùn)行的軟件的中堅(jiān)力量。”

另外，谷歌方面表示，傳統(tǒng)上，為定制 ASIC 和超級(jí)計(jì)算器編寫程序需要專業(yè)知識(shí)技能。相比之下，谷歌的這款TPU實(shí)現(xiàn)了與TensorFlow的無縫融合，幾乎無需改動(dòng)，只需要使用高級(jí) TensorFlow API 就可以對(duì) Cloud TPU 進(jìn)行編程了，像是：

- ResNet-50 以及其它流行的圖片分類模型

- 針對(duì)機(jī)器翻譯和語言建模的 Transformer

- 針對(duì)物體追蹤的 RetinaNet

芯片提供的是人工智能三要素中的計(jì)算力，如今TPU的全面開放，可為中小AI公司在2018年的商業(yè)化應(yīng)用落地提供硬件上的強(qiáng)大支撐。但也有業(yè)內(nèi)人士評(píng)論稱“TPU只能通過云獲取是一大障礙，英偉達(dá)在硬件方面還是碾壓谷歌”，并且認(rèn)為“TPU對(duì)固定算法還是有要求，目前應(yīng)用范圍最廣還是GPU?！?/p>

對(duì)谷歌來說，開放TPU有什么好處？

TPU專用于人工智能和機(jī)器學(xué)習(xí)，可為谷歌帶來兩大好處：首先，利用自主研發(fā)的芯片，谷歌可以在核心的計(jì)算基礎(chǔ)設(shè)施方面更便宜、更有效地減少對(duì)英特爾、英偉達(dá)等芯片制造商的依賴。擁有自己的硬件使谷歌能夠更快地進(jìn)行實(shí)驗(yàn)。

其次，新的TPU也為谷歌的云計(jì)算業(yè)務(wù)帶來額外收入，現(xiàn)在，谷歌云平臺(tái)（GCP）和谷歌的業(yè)務(wù)應(yīng)用程序GSuite每季度可超過10億美元收入。

谷歌目前允許公司租用單個(gè)TPU板卡，今年晚些時(shí)候，將允許企業(yè)租用多個(gè)板卡，并連接成名為TPU pod的超級(jí)計(jì)算機(jī)網(wǎng)絡(luò)。后面谷歌會(huì)開源更多的 ML 模型。

此次開放讓TPU和TensorFlow軟硬結(jié)合，或?qū)⒆尮雀柰黄浦貒?，也將促使芯片格局生變，商用化進(jìn)入快車道時(shí)期。那么一直以來我們的國產(chǎn)AI處理器產(chǎn)品，又將如何面對(duì)這一變局？