超算難勝大腦,何不依照神經結構打造芯片?
伴隨著第四次工業革命的到來,人工智能和機器學習成了半導體行業熱捧的技術。從訓練和推理的角度來看,這些技術用到的數據量已經足夠龐大,但AI芯片依然很難做到像大腦一樣思考。
以目前世界排名第二的超算IBM Summit為例,其運算速率已達200 PFLOPS,但大腦的運算性能仍然是它的5倍。研究人員開始反思為何不仿制一個大腦結構的芯片,依照人體神經元網絡結構打造的神經形態芯片也因此出爐。
大腦中的神經元可以通過無數個突觸實現互通,從而快速處理大腦信息,進行記憶、推理和計算。基于馮諾依曼結構的AI芯片依然需要在多個部件之間進行信息傳輸,造成處理速度瓶頸,這也是為何近年來業內仍在發展互聯技術的原因。
而神經形態芯片基于人腦的架構,采用了脈沖神經網絡(SNN),不僅顯著提升了處理速度,更是可以同步進行多項操作,同時進行數據輸入和輸出,且功耗與當前的AI芯片相比大大降低。
嗅覺識別
2017年11月,英特爾發布了自己的神經形態芯片Loihi。這一60mm2大小的芯片基于14nm工藝制造,采用了128個“神經核”的設計,囊括了13萬神經元。英特爾稱其設計基于專為SNN算法優化的架構,每個神經元都可以數千個神經元相互通信。Loihi支持的SNN運算,不需要在傳統的卷積神經網絡下進行訓練。
Loihi芯片 / Intel
去年3月17日,英特爾研究院和美國康奈爾大學研究人員聯合發表了一篇論文,展示了一種基于哺乳動物嗅覺系統的神經算法,即便存在明顯干擾和遮蓋的情況下,英特爾的神經形態芯片Loihi依然可以學習和識別危險甲苯和一氧化碳等化學品。此外,由于神經形態芯片的優勢,Loihi僅需單一樣本就可以識別氣味,不像過去的深度學習一樣需要大量的訓練樣本。
在與不少學術機構合作的過程中,研究人員同樣發現Loihi具備超低功耗的特性。在運行一個實時深度學習測試中,Loihi的功耗要比一片GPU低109倍,與專用的IoT推理硬件相比低5倍。更棒的是,即便將深度學習網絡的規模擴展50倍,Loihi不僅能夠保持同樣的實時性能表現,其功耗占用也只有30%而已,而IoT硬件的功耗已經高至6倍,且無法再滿足實時處理了。
視覺識別
今年1月,澳大利亞斯威本大學、電子科大和中國科學院聯合發表了一篇論文,該團隊聲稱打造出了性能最強大的光學神經形態處理器。領導這項研究工作的David Moss教授聲稱,該芯片基于光微梳打造,可以實現10 TOPS的運算性能。
該芯片可以生成25萬像素的圖像卷積,對于人臉識別之類的應用已經綽綽有余。在測試中,他們在該芯片上用10個輸出神經元依次組成一個光學卷積神經網絡,在識別手寫數字圖像上準確率可達88%。同樣的方法也可以擴展到更復雜的網絡上,比如用于自動駕駛和實時視頻識別等等。
TrueNorth芯片 / IBM
同樣在用神經形態技術進行視覺識別的還有IBM,其TrueNorth芯片包含了100萬個神經元和2.56億個突觸。這個4096個內核的芯片基于三星的28nm工藝制造,支持多對象檢測和分類,正常工作情況下的功耗卻只有60至70mW。
視覺傳感器也開始應用神經形態技術,以Prophesee為例,這家公司基于自己神經形態技術,在去年與索尼聯合發布了基于事件的工業級視覺傳感器。該公司也在今年7月獲得了創新工場、小米和韋豪創芯的投資。
結語
從以上案例可以看出,神經形態芯片和人腦結構一樣,在處理龐大的多樣化數據上上有著不小的優勢。而傳統AI和機器學習場景中,許多都需要需要大數據支持而且無法完成直接替代,這些應用往往也與人類感知器官相關。
除了嗅覺和視覺外,也有像荷蘭初創公司Innatera這樣專注于音頻和健康的神經形態芯片公司??梢哉f神經形態芯片在發揮傳感應用的全部性能上,具備著現有AI芯片難以媲美的優勢。
不過這項技術在硬件和軟件上尚未成熟,目前大型的神經形態芯片還沒有出現,而且已有的一些算法也很可能難以兼容。憑借其低功耗和小體積的優勢,神經形態芯片最對口的使用場景也許還是移動設備和AIoT。
伴隨著第四次工業革命的到來,人工智能和機器學習成了半導體行業熱捧的技術。從訓練和推理的角度來看,這些技術用到的數據量已經足夠龐大,但AI芯片依然很難做到像大腦一樣思考。
以目前世界排名第二的超算IBM Summit為例,其運算速率已達200 PFLOPS,但大腦的運算性能仍然是它的5倍。研究人員開始反思為何不仿制一個大腦結構的芯片,依照人體神經元網絡結構打造的神經形態芯片也因此出爐。
大腦中的神經元可以通過無數個突觸實現互通,從而快速處理大腦信息,進行記憶、推理和計算。基于馮諾依曼結構的AI芯片依然需要在多個部件之間進行信息傳輸,造成處理速度瓶頸,這也是為何近年來業內仍在發展互聯技術的原因。
而神經形態芯片基于人腦的架構,采用了脈沖神經網絡(SNN),不僅顯著提升了處理速度,更是可以同步進行多項操作,同時進行數據輸入和輸出,且功耗與當前的AI芯片相比大大降低。
嗅覺識別
2017年11月,英特爾發布了自己的神經形態芯片Loihi。這一60mm2大小的芯片基于14nm工藝制造,采用了128個“神經核”的設計,囊括了13萬神經元。英特爾稱其設計基于專為SNN算法優化的架構,每個神經元都可以數千個神經元相互通信。Loihi支持的SNN運算,不需要在傳統的卷積神經網絡下進行訓練。
Loihi芯片 / Intel
去年3月17日,英特爾研究院和美國康奈爾大學研究人員聯合發表了一篇論文,展示了一種基于哺乳動物嗅覺系統的神經算法,即便存在明顯干擾和遮蓋的情況下,英特爾的神經形態芯片Loihi依然可以學習和識別危險甲苯和一氧化碳等化學品。此外,由于神經形態芯片的優勢,Loihi僅需單一樣本就可以識別氣味,不像過去的深度學習一樣需要大量的訓練樣本。
在與不少學術機構合作的過程中,研究人員同樣發現Loihi具備超低功耗的特性。在運行一個實時深度學習測試中,Loihi的功耗要比一片GPU低109倍,與專用的IoT推理硬件相比低5倍。更棒的是,即便將深度學習網絡的規模擴展50倍,Loihi不僅能夠保持同樣的實時性能表現,其功耗占用也只有30%而已,而IoT硬件的功耗已經高至6倍,且無法再滿足實時處理了。
視覺識別
今年1月,澳大利亞斯威本大學、電子科大和中國科學院聯合發表了一篇論文,該團隊聲稱打造出了性能最強大的光學神經形態處理器。領導這項研究工作的David Moss教授聲稱,該芯片基于光微梳打造,可以實現10 TOPS的運算性能。
該芯片可以生成25萬像素的圖像卷積,對于人臉識別之類的應用已經綽綽有余。在測試中,他們在該芯片上用10個輸出神經元依次組成一個光學卷積神經網絡,在識別手寫數字圖像上準確率可達88%。同樣的方法也可以擴展到更復雜的網絡上,比如用于自動駕駛和實時視頻識別等等。
TrueNorth芯片 / IBM
同樣在用神經形態技術進行視覺識別的還有IBM,其TrueNorth芯片包含了100萬個神經元和2.56億個突觸。這個4096個內核的芯片基于三星的28nm工藝制造,支持多對象檢測和分類,正常工作情況下的功耗卻只有60至70mW。
視覺傳感器也開始應用神經形態技術,以Prophesee為例,這家公司基于自己神經形態技術,在去年與索尼聯合發布了基于事件的工業級視覺傳感器。該公司也在今年7月獲得了創新工場、小米和韋豪創芯的投資。
結語
從以上案例可以看出,神經形態芯片和人腦結構一樣,在處理龐大的多樣化數據上上有著不小的優勢。而傳統AI和機器學習場景中,許多都需要需要大數據支持而且無法完成直接替代,這些應用往往也與人類感知器官相關。
除了嗅覺和視覺外,也有像荷蘭初創公司Innatera這樣專注于音頻和健康的神經形態芯片公司??梢哉f神經形態芯片在發揮傳感應用的全部性能上,具備著現有AI芯片難以媲美的優勢。
不過這項技術在硬件和軟件上尚未成熟,目前大型的神經形態芯片還沒有出現,而且已有的一些算法也很可能難以兼容。憑借其低功耗和小體積的優勢,神經形態芯片最對口的使用場景也許還是移動設備和AIoT。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
AI
+關注
關注
87文章
30734瀏覽量
268893 -
人工智能
+關注
關注
1791文章
47184瀏覽量
238266 -
神經形態芯片
+關注
關注
0文章
21瀏覽量
13877
發布評論請先 登錄
相關推薦
LSTM神經網絡的結構與工作機制
網絡的結構與工作機制的介紹: 一、LSTM神經網絡的結構 LSTM神經網絡的結構主要包括以下幾個部分: 記憶單元(Memory Cell)
《算力芯片 高性能 CPUGPUNPU 微架構分析》第二篇閱讀心得:芯片拓撲學:并行擴展與CPU設計的巨頭對決
1 芯片拓撲結構:多核互聯的藝術
繼續深入《算力芯片》一書,第5-6章探討了芯片拓撲結構與經典C
發表于 10-29 01:48
人工智能神經元的基本結構
人工智能神經元的基本結構是一個復雜而深入的話題,涉及到計算機科學、數學、神經科學等多個領域的知識。 引言 人工智能(Artificial Intelligence,簡稱AI)是計算機科學的一個分支
人工智能神經網絡的結構是什么
人工智能神經網絡是一種模擬人腦神經網絡的計算模型,其結構和功能非常復雜。 引言 人工智能神經網絡是一種模擬人腦神經網絡的計算模型,其
神經網絡芯片和普通芯片區別
神經網絡芯片和普通芯片的區別是一個復雜而深入的話題,涉及到計算機科學、電子工程、人工智能等多個領域。 定義 神經網絡芯片(Neural Ne
神經元的結構及功能是什么
神經元是神經系統的基本結構和功能單位,它們通過電信號和化學信號進行信息傳遞和處理。神經元的結構和功能非常復雜,涉及到許多不同的方面。 一、
BP神經網絡的原理、結構及 訓練方法
神經網絡是一種受人類大腦神經元結構啟發的計算模型,由大量的神經元(或稱為節點、單元)通過權重連接而成。每個神經元接收輸入信號,通過激活函數
神經網絡算法的結構有哪些類型
神經網絡算法是深度學習的基礎,它們在許多領域都有廣泛的應用,如圖像識別、自然語言處理、語音識別等。神經網絡的結構有很多種類型,每種類型都有其獨特的特點和應用場景。以下是對神經網絡算法
科學計算的下一輪創新,AI超算與數字孿生
應用的行列中來。 ? AI 超算與數字孿生 ? 在過去通用計算負載的時代,我們難以采用更大規模的計算集群來打造數字孿生??呻S著AI技術,尤其是生成式AI技術的出現,采用高度定制化的AI超
評論