在5G、AI、IoT可說是近幾年半導體產業最熱門的議題的情況下,為因應5G時代AI邊緣運算需求持續增加,如何提升IoT芯片AI運算效率卻不增加功耗,已成為IC設計產業難題。對此,力積電董事長黃崇仁表示,透過力積電新開發的AI芯片,可以有效降低AIoT應用服務設備開發成本。
黃崇仁20日于2019日本嵌入式&物聯網技術大展(ET&IoT Technology 2019)上進行專題演講時表示,力積電開發中的AI芯片(AI Memory)技術,是將MCU與DRAM整合到單一芯片上,并讓存儲器資料可依照需求進行非循序存取,進而提升影像神經網路運算10倍處理效率,讓IC設計業者開發出體積更小的單芯片電腦(Single Chip Computer),進而降低AIoT應用服務設備開發成本。
黃崇仁進一步指出,人類大腦有大約10的11次方個神經元(neuron)與10的15次方個突觸(synaptic),形成一個連接線路高達數千英里的立體性神經網路架構。但是,整個大腦的耗電量只有25瓦,可說是非常省電。力積電在研究分析大腦神經元運作架構之后,耗費許久開發出AI芯片(AI Memory,AIM)技術,協助IC設計業者可以開發出給AI運算用的AI芯片,不僅低耗電,AI運算效率也能符合應用需求。
他還表示,IC設計業者可以透過AIM Innovation Service Platform架構,與力積電、智成電子、愛普科技合作,將CPU與DRAM相關IP放在同一顆芯片中。如此一來,MCU到DRAM的資料傳輸,可以從常用的32位元大幅提升至4096位元,不僅增加資料傳輸頻寬,并且達到低延遲與低耗電效果。甚至,還可以把Wi-Fi芯片功能包進去,讓單一芯片可以獲得相當于單芯片電腦所需功能,并能降低芯片耗電量。
而以行車安全最需要的ADAS(先進駕駛輔助系統,Advanced Driver Assistance Systems)應用為例,若是采用AIM技術所開發的單芯片,搭配影像神經網路加速運算程式(Video Neuron Network Accelerator,VNNA),在進行1080p RGB影像物件分離處理上,可以達到10倍的執行效率,但耗電量卻只要原來的十分之一,可說是非常省電又有AI運算效率。同樣的架構與技術可以讓自駕車、無人車、攝影機、影像監控等芯片供應業者采用,協助相關芯片業者開發出具有特定領域的AI加速芯片產品。
此外,由于在范紐曼型架構(von Neumann architecture)下,傳統AI運算上會碰到的頻頸是資料需要循序處理,不符合AI運算情境上其實是要能非循序存取的需求。而力積電的AI Memory技術,就可開發出后范紐曼型架構的存儲器處理方式,除了將CPU到DRAM的頻寬大幅提升,甚至可以在存儲器存取上加入控制電路,以非循序存取的方式高速讀取DRAM資料,進而提升AI運算執行效率。
責任編輯:wv
-
AI
+關注
關注
87文章
30742瀏覽量
268896 -
IoT芯片
+關注
關注
0文章
23瀏覽量
6293
發布評論請先 登錄
相關推薦
評論