人工智能,作為引領科技革命和產業變革的核心力量,正推動生成式AI技術如ChatGPT、Sora等不斷取得新的突破,大模型的應用范圍也日漸拓寬。然而,隨著智能算力的飛速提升,能耗問題逐漸凸顯,成為制約算力產品效能的關鍵瓶頸。傳統計算機在信號與數據轉換、高精度計算方面的能耗和時間成本不斷攀升,深度學習模型的訓練成本亦居高不下。
人腦能夠運行非常復雜且龐大的神經網絡,總功耗卻僅為20W,遠小于現有的AI。類腦智能作為一種受腦科學和神經科學啟發的創新科技,采用神經形態計算,模擬人腦運作機制,旨在實現信息的高效處理,同時降低能耗、提升算力。與傳統人工智能相比,類腦智能展現了一種全新的計算范式,為科技發展和產業變革提供了全新視角和可能性。
人工智能的革新:時識科技與中科院自動化所聯合研究成果突破
近日,SynSense時識科技與北京中科院自動化所李國齊、徐波課題組合作,提出了一套以超低功耗邊緣端應用為導向,能夠實現動態計算算法,軟硬協同設計的類腦智能SoC系統Speck,整個系統在典型視覺場景中的實時功耗低至0.7mW。該成果以《Spike-based dynamic computing with asynchronous sensing-computing neuromorphic chip》為題,2024年5月25日成功刊登在國際頂級學術期刊《自然》(Nature)的子刊《自然-通訊》(Nature Communications)。
圖1.收錄圖
研究充分證明了將人腦中復雜的高級神經機制融入到神經形態計算中所帶來的無限可能。相關工作得到了國家杰出青年科學基金、國家自然科學基金委重點項目、區域創新聯合重點項目的支持。這一重大研究成果不僅展現了類腦智能的巨大潛力和廣闊前景,也為未來科技發展和產業變革注入了強大動力。
Speck:引領邊緣計算場景的極致創新
本篇文章首次詳細的介紹了時識科技感算一體SoC芯片Speck的設計細節(圖2), 硬件資源和異步運算的核心技術。Speck是一款異步感算一體的類腦智能SoC,采用全異步設計,在芯片上集成了動態視覺傳感器(DVS)和類腦智能芯片,具有極低的靜態功耗(0.42mW)。在視覺感知側,DVS相機以異步方式運行,僅在視覺場景中亮度發生變化時,產生稀疏的事件流,能夠以微秒級的時間分辨率感知視覺信息。在芯片側,異步神經形態芯片同樣以全異步方式設計,拋棄了全局時鐘控制信號,避免了時鐘空翻帶來的能耗開銷,僅在有事件輸入時才會觸發稀疏加法運算。
Speck不僅實現了神經形態計算理論上具有低功耗和低時延優勢,同時天然與神經形態動態計算契合。芯片的功耗主要分為靜息功耗和動態功耗兩部分。如圖2b/c所示,傳統AI芯片靜態功耗高,在算法層面進行的能效優化對總功耗的降低作用不大。相比之下,Speck具有極低的靜息功耗,算法層面的能效優化能切實帶來總功耗的降低。
圖2.Speck設計細節
Speck包含多個SNN核心,每個核心都能夠獨立處理事件流,執行異步事件驅動的卷積操作。這種模塊化的設計使得芯片能夠靈活地處理各種規模的事件驅動任務。由于芯片的異步事件驅動特性,Speck能夠在接收到單個事件后立即更新系統狀態,從而實現極低的輸出延遲,為邊緣計算場景提供了一個高能效、低延遲和低功耗的類腦智能解決方案。
以應用為導向,開啟產業減排增效新篇章
脈沖神經網絡(SNNs)與傳統的人工神經網絡(ANNs)最大的不同在于信息交換的方式。SNNs中的神經元通過脈沖序列(即0代表無信號,1代表有脈沖信號)來進行通信,而ANNs中的神經元則使用連續的數值來交換信息。這使得SNNs在運算時擁有一個動態的計算圖,這意味著在任何時刻,只有一小部分神經元處于活躍狀態,而其他神經元則處于閑置狀態。相比之下,傳統的計算模式,比如在GPU上運行的ANNs,則是基于靜態計算圖的。即便ANNs的所有輸入或激活值都是零,網絡也必須執行所有操作。通過將高層次的注意力機制整合到SNNs中,動態SNNs能夠在顯著降低能耗的同時,提升任務性能。這項技術創新點主要適用于希望提升計算效率和節能的智能設備和應用。
圖3. 類腦計算和傳統計算對比(從動態計算的角度)
文章中驗證了動態平衡注意力機制和異步類腦芯片的結合可以在手勢識別、明/暗光照下的步態識別等任務上取得準確率上、功耗和延時上巨大的提升。通過在類腦芯片Speck上部署SNN,實驗展示了一個實時功耗低至0.70mW的高精度類腦智能系統,整個系統處理單個脈沖的超低延遲僅為 3.36 μs。
SynSense時識科技為Speck芯片提供了完整的軟件工具鏈,只需要使用編程框架Sinabs上完成SNN算法設計與訓練,即可在Speck上進行部署。如圖4所示,在屏蔽不重要時間窗口內事件流后,輸入為0時,Speck不會觸發任何計算。為驗證神經形態動態計算的有效性,該研究在三個公開數據集進行了測試。在DVS128 Gesture上,融合了注意力動態計算的Speck在任務精度提升9%的同時,平均功耗由9.5mW降低至3.8mW。
圖4. 融合了注意力動態計算的Speck
這項研究揭示了Speck類腦計算感知平臺和人腦的高級抽象功能間的工程映射關系,通過這種機制能夠實現類腦智能在能耗、性能、延遲上的優越表現。充分證明了類腦智能在實際應用場景中,從高能效、低延遲和高性能等維度,其異步事件驅動、稀疏性和動態性等方面的巨大潛力。
類腦智能,人工智能發展新引擎
AI技術的飛速發展讓大型模型在復雜任務處理上展現出巨大潛力,但也對計算資源和數據傳輸速度的要求也日益增加。類腦智能技術為這一挑戰提供了有效的解決方案,能夠顯著減少系統延遲及對中心化云服務的依賴,同時提升能源效率,降低運營成本。
科研成果高效轉化是推動基礎研究不斷前進的源動力,如今類腦智能作為創新“密碼”正在為發展新質生產力注入澎湃動能。面對當前算力瓶頸和能耗問題,為人工智能的發展提供了新的方法和視角。隨著技術的持續進步,類腦智能將為AI的未來打開更廣闊的應用空間,推動智能科技向更深層次、更廣泛領域的發展??梢云诖诓痪玫膶恚惸X智能以科技撬動萬億規模的產業“新藍海”。
-
人工智能
+關注
關注
1791文章
47206瀏覽量
238279 -
深度學習
+關注
關注
73文章
5500瀏覽量
121117 -
大模型
+關注
關注
2文章
2426瀏覽量
2647
原文標題:SynSense時識科技與中科院自動化所聯合研究成果榮登國際權威期刊Nature子刊,引領類腦智能技術新紀元
文章出處:【微信號:SynSense時識科技,微信公眾號:SynSense時識科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論