谷歌發(fā)明用于神經網絡任務的AI芯片

谷歌發(fā)明的用于神經網絡任務的AI芯片，通過引入標準人工智能運算管芯，使得AI芯片可以應對多種復雜的網絡結構，從而降低了芯片設計時長以及減少了設計的工作量。

自從谷歌公司的AlphaGo機器人戰(zhàn)勝人類圍棋之后，人工智能便一直活躍在人們的視野之中，與各種人工智能方法對應的是AI芯片。而在18年的Next云計算大會上，谷歌披露了自家搶攻IoT終端運算的戰(zhàn)略武器，其中最引人關注的就是Edge TPU芯片的發(fā)布。

據(jù)悉，谷歌不僅為在自己的數(shù)據(jù)中心開發(fā)人工智能芯片，還打算在將其設計的Edge TPU用在其他公司生產的產品中。這種人工智能芯片在物聯(lián)網應用以及智能終端設備中具有巨大的使用空間。

在AI芯片設計方面，隨著神經網絡的使用在人工智能計算領域中迅速增長，專用集成電路（ASIC）的專用計算機的使用已經被用于處理神經網絡，雖然這些方法可以用于設計AI芯片，但是隨著神經網絡的普及和針對其使用神經網絡的任務范圍的增長，較長的設計時間和不可忽略的非重復性工程成本將會加劇。

為此，谷歌在18年9月21日申請了一項名為“用于使用具有多個相同的管芯的單片封裝處理神經網絡任務的設備和機制”的發(fā)明專利（申請?zhí)枺?01880033593.8），申請人為谷歌有限責任公司。

根據(jù)該專利目前公開的資料，讓我們一起來看看谷歌的這項專利技術吧。

如上圖，為該專利中發(fā)明的用于處理神經網絡任務的系統(tǒng)，該系統(tǒng)主要包括主處理單元101和人工智能處理單元102，這種系統(tǒng)可以應用在服務器和物聯(lián)網（IoT）設備中。AIPU 102是主處理單元101的協(xié)處理器，主處理單元通過通信路徑104a和104b耦合到AIPU。

AIPU包括多個人工智能處理管芯（103a-103f），這些管芯的結構都是相同的，可以用來處理神經網絡相關的計算任務，這個示意圖中展示了6個這種處理管芯，而其數(shù)目可以基于由主要計算設備處理的神經網絡模型的層數(shù)而變化，也正是這種標準處理管芯的引入，使得定制ASIC的挑戰(zhàn)得以減輕。

也就是說，需要多少處理管芯是由要處理的任務所決定的，例如當這種神經網絡處理器應用在智能恒溫器上時，由于智能恒溫器的神經網絡模型的層數(shù)可能小于數(shù)據(jù)中心的計算設備，因為處理的任務會更加簡單，因此其需要的管芯數(shù)也會更少。這樣有利于節(jié)省硬件開銷，避免不必要的算力浪費，下面我們來這個處于核心地位的管芯的內部邏輯吧。

如上圖，為人工智能處理單元的人工智能處理管芯的功能邏輯示意圖，其中主要包括主機接口單元、緩沖器、控制器、緩沖器、計算單元以及輸入輸出（I/O）模塊?？梢钥吹皆谀K的四個角均有輸入輸出模塊，因為輸入輸出模塊的引腳被配置為雙向的，使得I/O模塊可以從源單元接收數(shù)據(jù)并向目的單元發(fā)送數(shù)據(jù)。

主機接口單元經過I/O引腳從控制器中接收數(shù)據(jù)，并經過I/O引腳將數(shù)據(jù)發(fā)送到主處理單元控制器。緩沖器中存儲著數(shù)據(jù)，控制器負責從緩沖器中存取數(shù)據(jù)，這些數(shù)據(jù)包括各種指令數(shù)據(jù)以及神經網絡的待處理數(shù)據(jù)，具體應用這種管芯的方法如下圖所示。

在人工智能處理管芯的方法流程圖中可以看到，系統(tǒng)首先會接收輸入數(shù)據(jù)以配置AIPU，這些配置數(shù)據(jù)也會傳遞到AIPU中的每個AIPD上，不同的神經網絡處理任務會發(fā)送不同的數(shù)據(jù)，只有在管芯依據(jù)所要進行的任務正確配置的前提下，才可以正確的完成任務。

例如，如果由AIPU處理的神經網絡的第一層需要第一組權重值而同時第二層需要另外一組第二組權重值時，則關聯(lián)于神經網絡的第一層相關聯(lián)的配置參數(shù)將會于第二層進行區(qū)分。這樣的設計方案也是由于神經網絡每層的結構都可以不相同，為了靈活的應對層出不窮的神經網絡結構。

在當AIPU接收到數(shù)據(jù)信號后，基于配置數(shù)據(jù)來配置每一個AIPD，最后將確認信號發(fā)送到主處理器，以等待任務的開始。

最后，我們來看看這種基于神經網絡模型來處理神經網絡任務的流程圖，首先將于神經網絡相關的初始數(shù)據(jù)發(fā)送到AIPU，AIPU配置好后會執(zhí)行相關層的計算任務，同時將計算結果發(fā)送到第二AIPD，最后將計算的結果從AIPU發(fā)送到主處理器中，并將神經網絡的處理結果發(fā)送到用戶。

以上就是谷歌發(fā)明的用于神經網絡任務的設備及方法，通過引入標準人工智能運算管芯，使得AI芯片可以從容的應對不同復雜程度的神經網絡以及數(shù)量變化不定的卷積核等參數(shù)，這樣就可以跨多個產品使用標準管芯，從而使得芯片設計時長和非重復性工作都可以得以更有效的分攤。

關于嘉德

深圳市嘉德知識產權服務有限公司由曾在華為等世界500強企業(yè)工作多年的知識產權專家、律師、專利代理人組成，熟悉中歐美知識產權法律理論和實務，在全球知識產權申請、布局、訴訟、許可談判、交易、運營、標準專利協(xié)同創(chuàng)造、專利池建設、展會知識產權、跨境電商知識產權、知識產權海關保護等方面擁有豐富的經驗。
責任編輯:tzh