谷歌發明的用于神經網絡任務的AI芯片，通過引入標準人工智能運算管芯，使得AI芯片可以應對多種復雜的網絡結構，從而降低了芯片設計時長以及減少了設計的工作量。

自從谷歌公司的AlphaGo機器人戰勝人類圍棋之后，人工智能便一直活躍在人們的視野之中，與各種人工智能方法對應的是AI芯片。而在18年的Next云計算大會上，谷歌披露了自家搶攻IoT終端運算的戰略武器，其中最引人關注的就是Edge TPU芯片的發布。

據悉，谷歌不僅為在自己的數據中心開發人工智能芯片，還打算在將其設計的Edge TPU用在其他公司生產的產品中。這種人工智能芯片在物聯網應用以及智能終端設備中具有巨大的使用空間。

在AI芯片設計方面，隨著神經網絡的使用在人工智能計算領域中迅速增長，專用集成電路（ASIC）的專用計算機的使用已經被用于處理神經網絡，雖然這些方法可以用于設計AI芯片，但是隨著神經網絡的普及和針對其使用神經網絡的任務范圍的增長，較長的設計時間和不可忽略的非重復性工程成本將會加劇。

為此，谷歌在18年9月21日申請了一項名為“用于使用具有多個相同的管芯的單片封裝處理神經網絡任務的設備和機制”的發明專利（申請號：201880033593.8），申請人為谷歌有限責任公司。

根據該專利目前公開的資料，讓我們一起來看看谷歌的這項專利技術吧。

如上圖，為該專利中發明的用于處理神經網絡任務的系統，該系統主要包括主處理單元101和人工智能處理單元102，這種系統可以應用在服務器和物聯網（IoT）設備中。AIPU 102是主處理單元101的協處理器，主處理單元通過通信路徑104a和104b耦合到AIPU。

AIPU包括多個人工智能處理管芯（103a-103f），這些管芯的結構都是相同的，可以用來處理神經網絡相關的計算任務，這個示意圖中展示了6個這種處理管芯，而其數目可以基于由主要計算設備處理的神經網絡模型的層數而變化，也正是這種標準處理管芯的引入，使得定制ASIC的挑戰得以減輕。

也就是說，需要多少處理管芯是由要處理的任務所決定的，例如當這種神經網絡處理器應用在智能恒溫器上時，由于智能恒溫器的神經網絡模型的層數可能小于數據中心的計算設備，因為處理的任務會更加簡單，因此其需要的管芯數也會更少。這樣有利于節省硬件開銷，避免不必要的算力浪費，下面我們來這個處于核心地位的管芯的內部邏輯吧。

如上圖，為人工智能處理單元的人工智能處理管芯的功能邏輯示意圖，其中主要包括主機接口單元、緩沖器、控制器、緩沖器、計算單元以及輸入輸出（I/O）模塊。可以看到在模塊的四個角均有輸入輸出模塊，因為輸入輸出模塊的引腳被配置為雙向的，使得I/O模塊可以從源單元接收數據并向目的單元發送數據。

主機接口單元經過I/O引腳從控制器中接收數據，并經過I/O引腳將數據發送到主處理單元控制器。緩沖器中存儲著數據，控制器負責從緩沖器中存取數據，這些數據包括各種指令數據以及神經網絡的待處理數據，具體應用這種管芯的方法如下圖所示。

在人工智能處理管芯的方法流程圖中可以看到，系統首先會接收輸入數據以配置AIPU，這些配置數據也會傳遞到AIPU中的每個AIPD上，不同的神經網絡處理任務會發送不同的數據，只有在管芯依據所要進行的任務正確配置的前提下，才可以正確的完成任務。

例如，如果由AIPU處理的神經網絡的第一層需要第一組權重值而同時第二層需要另外一組第二組權重值時，則關聯于神經網絡的第一層相關聯的配置參數將會于第二層進行區分。這樣的設計方案也是由于神經網絡每層的結構都可以不相同，為了靈活的應對層出不窮的神經網絡結構。

在當AIPU接收到數據信號后，基于配置數據來配置每一個AIPD，最后將確認信號發送到主處理器，以等待任務的開始。

最后，我們來看看這種基于神經網絡模型來處理神經網絡任務的流程圖，首先將于神經網絡相關的初始數據發送到AIPU，AIPU配置好后會執行相關層的計算任務，同時將計算結果發送到第二AIPD，最后將計算的結果從AIPU發送到主處理器中，并將神經網絡的處理結果發送到用戶。

以上就是谷歌發明的用于神經網絡任務的設備及方法，通過引入標準人工智能運算管芯，使得AI芯片可以從容的應對不同復雜程度的神經網絡以及數量變化不定的卷積核等參數，這樣就可以跨多個產品使用標準管芯，從而使得芯片設計時長和非重復性工作都可以得以更有效的分攤。

關于嘉德

深圳市嘉德知識產權服務有限公司由曾在華為等世界500強企業工作多年的知識產權專家、律師、專利代理人組成，熟悉中歐美知識產權法律理論和實務，在全球知識產權申請、布局、訴訟、許可談判、交易、運營、標準專利協同創造、專利池建設、展會知識產權、跨境電商知識產權、知識產權海關保護等方面擁有豐富的經驗。
責任編輯:tzh