人腦,是自然界中最完美的信息處理系統,它可以執行各種各樣的復雜任務,其計算效能要比現有數字計算系統高出幾個數量級,被認為是目前唯一的“通用智能體”。
一直以來,通過模擬人腦信息處理方式,仿制像人腦一樣具有“思維”、在工作性能上超越人腦的“類腦系統”,實現通用人工智能,是眾多科學家畢生追求的夢想。
如今,來自清華大學、北京信息科學與技術國家研究中心、美國特拉華大學(University of Delaware)科研團隊的一項突破性研究,或將加速類腦計算和通用人工智能(Artificial General Intelligence,AGI)的到來。
研究人員在類腦計算通用系統層次結構方向取得突破性進展,并提出了“神經形態完備性”(neuromorphic completenes)的最新概念。
相關論文于 10 月 14 日在線發表在頂級科學期刊《自然》(Nature)上,清華大學教授、清華大學類腦計算中心主任施路平和清華大學計算機系研究員張悠慧為該論文的共同通訊作者。
更具魯棒性與通用性的通用人工智能
通用人工智能是具備與人類同等智慧或超越人類的人工智能,通常把人工智能和意識、感性、知識和自覺等人類的特征互相連結,能表現正常人類所具有的所有智能行為,是人工智能研究的主要目標之一,同時也是科幻小說和未來學家都在討論的主要議題。
業內認為,當前的人工智能成果大都是“狹隘”的,即面向特定任務,只能解決特定問題。目前基于馮·諾依曼架構的計算機擅長解決有充足大數據、完整靜態知識的確定性問題(比如深度學習在圍棋比賽、圖像識別等領域的應用)已經不遜于人類,但并沒有能力很好地解決沒有那么多數據、動態知識尚不足的模糊性問題。
未來,人工智能的發展必將從“狹隘”的弱人工智能走向更具魯棒性與通用性的通用人工智能,但當前的人工智能技術距離達到人類水平的通用人工智能還有很長的路要走。
一直以來,類腦計算都被認為是打開通用人工智能的鑰匙。去年 10 月,施路平在北京智源大會“智能體系架構與芯片專題論壇”中的主題演講中曾表示,“基于碳基已經發展出現有的人類智能,基于硅芯片已經發展出強大的機器智能,一旦實現人類的全腦解析,采用類腦計算構建通用人工智能是完全沒有障礙的?!?/p>
他還表示,通用人工智能的研究,從根本上來講,不同于把很多的窄人工智能加在一起,其主要研究思路是把類腦的彈性和計算機的剛性結合起來,把數據驅動和知識推動結合起來,把通用知識和推理結合起來,這是一個非常有挑戰的長期的研究。
如今,盡管類腦計算系統已與人工智能技術結合,并被業內專家認為可能提供一條通向通用人工智能的途徑,在更通用算法的應用層面也有著一定的突破和發展,但要保證類腦計算系統的性能、可編程性和生產效率,仍然面臨著不小的挑戰和極高的要求。
尤其是,當前類腦計算的系統和芯片,雖然具體類型有所不同,但都比較側重于端到端的軟硬件協同設計方法,缺乏一種可以將算法、芯片和器件等不同領域技術和需求有機結合起來的軟硬件系統層次結構設計。
而此次這一最新研究成果的提出,或許為通用人工智能的加速到來提供了可能。
全新概念:神經形態完備性
當前,幾乎所有現有的編程語言都是圖靈完備的,馮·諾依曼結構通過圖靈完備的接口(即通用指令集)支持圖靈機,通過引入圖靈完備性以及基于圖靈完備性的層次結構和馮·諾依曼體系結構,避免了當前計算系統中軟件和硬件之間的緊密耦合,實現了高效、兼容和獨立的進程,通過設置硬件(圖靈完備性)的最低要求,在任何馮·諾依曼處理器(編譯)上將任何高級語言的程序轉換成等效的指令序列變得可行。
相比之下,類腦計算目前缺乏一個簡單但健全的系統層次結構來支持整體開發,神經形態軟件和硬件之間沒有清晰完備的接口,不同研究方面之間的交互也比較復雜。
盡管各種基于類腦計算的算法、計算模型和軟件設計不斷出現,科研人員也研發出了各類神經形態芯片,但它們通常都需要特定的軟件工具鏈才能正常運行。其結果是,類腦計算系統(包括應用程序模型、系統軟件和神經形態設備)的各個層被緊密綁定在了一起,影響了軟件和硬件之間的兼容性,損害了類腦計算系統的編程靈活性和開發效率。
一些研究試圖通過特定領域的語言或開發框架連接各種軟件和硬件,但這些研究通常沒有考慮系統的圖靈完備性,在解決諸如硬件完備性、編程語言完備性和類腦計算的系統層次結構等更基本的問題上,近年來也幾乎沒有什么大的進展。而且,由于許多類腦芯片不是為通用計算而設計的,而且它們中很少提供傳統的指令集,因此不清楚它們是否是圖靈完備的,甚至不清楚圖靈完備是否是必要的。
為解決上述問題,施路平、張悠慧等人在這項研究中提出了"神經形態完備性"的概念,這是一種更具適應性、更廣泛的類腦計算完備性的定義,它降低了系統對神經形態硬件的完備性要求,提高了不同硬件和軟件設計之間的兼容性,并通過引入一個新的維度——近似粒度(the approximation granularity)來擴大設計空間。
同時,他們也提出了一種全新的系統層次結構,這一結構包括軟件、硬件和編譯三個層次,具有圖靈完備的軟件抽象模型和通用的抽象神經形態結構。在該系統層次結構下,各種程序可以用統一的表示來描述,在任何神經形態完備的硬件上都能轉換為等效的可執行程序,從而確保編程語言的可移植性、硬件的完備性和編譯的可行性。
圖|類腦計算系統和傳統計算系統的層次結構(來源:Nature)
軟件指的是編程語言或框架以及建立在它們之上的算法或模型。在這個層次上,他們提出了一種統一的、通用的軟件抽象模式——POG 圖(programming operator graph)——以適應各種類腦算法和模型設計。POG 由統一的描述方法和事件驅動的并行程序執行模型組成,該模型集成了存儲和處理,描述了什么是類腦程序,并定義了如何執行。由于 POG 是圖靈完備的,它最大程度地支持各種應用程序、編程語言和框架。
硬件方面,則包括所有類腦芯片和架構模型。他們設計了抽象神經形態體系結構(ANA)作為硬件抽象,包括一個 EPG 圖(execution primitive graph),作為上層的接口來描述它可以執行的程序。EPG 具有控制-流-數據流的混合表示,最大化了它對不同硬件的適應性,且符合當前硬件的發展趨勢,即混合架構。
編譯層,是將程序轉換為硬件支持的等效形式的中間層。為實現可行性,研究人員提出了一套被主流類腦芯片廣泛支持的基本硬件執行原語(hardware execution primitives),并證明配備這套硬件的神經形態是完備的,并以一個工具鏈軟件作為編譯層的實例,論證了該層次結構的可行性、合理性和優越性。
對此,研究人員認為,這一層次結構促進了軟硬件的協同設計,可以避免硬件和軟件之間的緊密耦合,確保任何類腦程序都可以由圖靈完備的 POG 在任何神經形態完備硬件上編譯成一個等效和可執行的 EPG,也確保了類腦計算系統的編程可移植性、硬件完備性和編譯可行性。
此外,他們也實現了工具鏈軟件的設計,以支持不同類型的程序在各種典型的硬件平臺上執行,證明了這一系統層次結構的優勢。結合所提出的系統架構(包括軟件和硬件抽象模型),擴充的完備性定義使圖靈完備性軟件與神經形態完備性硬件的等效轉換成為可能,即實現了軟件和硬件的去耦合。(學術君注:軟硬件去耦合是計算機系統結構中非常重要的設計方法論,基于此,軟件研發人員不需要考慮如何設計底層硬件,硬件開發人員也只需要遵循一定指令集規范,不用擔心兼容性和上層軟件開發的問題。)
這一設計理念使得系統不同方面之間的接口和劃分更加清晰,他們希望在當前層次結構的基礎上繼續攻關,進一步提高類腦計算系統的效率和可兼容性,從而促進包括通用人工智能在內的各個應用方向的發展。
神經形態計算領域“重要一步”
對于這一最新研究成果,英國曼徹斯特大學(University of Manchester)計算機科學系博士奧利弗·羅茲(Oliver Rhodes)給出了高度評價,認為“這一方法讓我們更接近利用類腦硬件所能取得的巨大成就”。
在他看來,這項研究的一個亮點為,施路平和張悠慧等人提出了具有完備性的連續統一體(continuum of completeness)——根據神經形態系統執行基本操作的準確性,可接受不同級別的算法性能,意味著新的層次結構可以使用所有可用的模擬和數字神經形態系統來實現,包括那些為執行速度或能源效率而犧牲精度的系統。
羅茲還表示,這一層次結構可以比較實現相同算法的等效版本的不同硬件平臺,以及比較在同一硬件上實現的不同算法,這些都是對神經形態體系結構進行有效基準測試的關鍵任務,在原理證明實驗中包括傳統圖靈完備的硬件(GPU)也是非常有價值的,因為這表明,在某些應用中,該層次結構可能被用來證明神經形態設備優于主流系統的優勢。
另外,這一層次結構還可以將算法和硬件開發分割成獨立的研究,如果要獲得底層神經形態架構的好處,算法的規模和復雜性將需要隨著時間的推移而增加,因此這種分離將幫助未來的研究人員專注于研究問題的特定方面,而不是試圖找到完整的端到端解決方案。
盡管在神經形態計算領域,要把許多工業和學術研究小組的工作結合起來,還有很多工作要做,但羅茲認為,施路平和張悠慧等人此次提出這一層次結構,是朝著這個方向邁出的重要一步。
群雄角逐“類腦計算”
近年來,隨著摩爾定律逐漸失效,馮·諾依曼結構帶來的局限日益明顯,存儲墻、功耗墻、智能提升等問題,讓當前計算機發展面臨重大挑戰。人們普遍認為,數字計算機能力的進步速度正在放緩,以摩爾定律為特征的計算機時代即將結束。
而從人類大腦中汲取靈感的類腦計算或神經形態計算,是一種有潛力打破馮·諾伊曼瓶頸并推動下一波計算機工程的計算模型和架構。
類腦計算的概念最早由美國計算機科學家、美國加州理工學院榮譽退休教授卡弗·米德(Carver Mead)于 1989 年出,但當時摩爾定律下的“計算危機”并未顯現,相關研究也就并沒有引起太多人的關注。直到 2004 年單核處理器主頻停止增長,人們開始轉向多核,尋求非馮諾依曼架構的替代技術,類腦計算這一概念才開始引起人們的關注。
如今,人工智能賦能下的類腦計算技術被認為是可能提供一條通向通用人工智能的途徑,世界各國的科研學者和研究機構也相繼開展腦相關研究并取得了一系列成果。國外主要有 IBM 的 TrueNorth、英特爾的 Loihi,以及 Braindrop、SpiNNaker 和 BrainScales 等,而中國在這一領域也處于世界前列。
自 2013 年 3 月全職入職清華大學、組建清華大學類腦計算研究中心后,施路平團隊就始終從基礎理論、類腦計算系統芯片和軟件系統全方位進行類腦計算研究。
去年 8 月,施路平團隊攜手第三代“天機芯”登上《自然》雜志封面(《面向人工通用智能的異構天機芯片架構》(Towards artificial general Intelligence with hybrid Tianjic chip architecture),這是世界上首款異構融合類腦芯片,并通過自動駕駛自行車成功驗證了通用智能的可行性。此次研究成果是施路平團隊在類腦計算與通用人工智能領域的進一步探索。
今年 9 月,浙江大學聯合之江實驗室共同研制成功了我國首臺基于自主知識產權類腦芯片的類腦計算機(Darwin Mouse),是目前國際上神經元規模最大的類腦計算機。
未來,隨著人工智能與腦科學研究進一步發展,具有人類智慧的類腦系統和通用人工智能,或許并不是遙不可及的夢想。
責編AJX
-
硬件
+關注
關注
11文章
3348瀏覽量
66305 -
計算
+關注
關注
2文章
450瀏覽量
38835 -
AI
+關注
關注
87文章
31135瀏覽量
269471
發布評論請先 登錄
相關推薦
評論