深度學習是一個很大的領域,其核心是一個神經網絡的算法,神經網絡的尺寸由數百萬甚至數十億個不斷改變的參數決定。似乎每隔幾天就有大量的新方法提出。
然而,一般來說,現在的深度學習算法可以分為三個基礎的學習范式。每一種學習方法和信念都為提高當前深度學習的能力和范圍提供了巨大的潛力和興趣。
混合學習-現代深度學習方法如何跨越有監督和無監督學習的界限,以適應大量未使用的未標記數據?
成分學習-如何采用一種創新的方法將不同的組件鏈接起來生成一個混合的模型,這個模型的效果比各個部分簡單的加和效果要好?
簡化學習-如何在保持相同或規模的預測能力的同時,減少模型的大小和信息流,以達到性能和部署的目的?
深度學習的未來主要在于這三種學習范式,每一種都緊密鏈接。
近日,由英、意,瑞三國聯合創建的一個混合神經網絡誕生了,其特殊之處在于使用互聯網將信號從生物神經元傳輸到人工神經元。這可謂是神經電子連接技術研究上的一重大突破,未來有望在我們的大腦與互聯網之間建立起連接,實現大腦可以與數據實時交互。當然,這一概念從科學研究到實踐運用還需要長時間的探索,不如先從本周英國南安普敦大學發表的科學研究來一窺混合神經網絡背后的原理。
該研究是從老鼠身上培養的生物神經元,并可以通過一種類似生物突觸的元件將信息傳遞給人工神經元,反之亦然。這項研究的所有三個要素:人工神經元、生物神經元和突觸部分位于世界的不同地方,通過互聯網連接起來。
在自然界,大腦通過一個龐大的神經元網絡來運作,神經元通過電信號將信息發送到其他神經元,這些信號被單獨稱為“動作電位”(action potential)。神經元之間相接觸的部位(這種信號在上面傳輸)名為突觸。神經元只能沿一個方向發送信息。信號將通過一個神經元傳送到輸出端。信息通過突觸傳輸,刺激接收端的下一個神經元,依此類推。
生物神經元是從大鼠身上培養的,精心組織后植入到了蘇黎世大學和蘇黎世聯邦理工學院的一個電極陣列上。借助精巧完善的實驗室技術,可以發送來自這些神經元的電信號,并接收捕獲的信號。
人工神經元是在意大利帕多瓦大學研發的,被排列在硅微芯片上。就像生物神經元一樣,人工神經元能夠發送并接收可以讀取和測量的信號。在南安普敦大學,科學家們使用了憶阻器(能夠傳遞電荷的微型電路部件)來制造物理器件,這種器件的作用是將信息從生物神經元傳遞到人工神經元,反之亦然。因而得到的人工突觸被稱為synpator。由于神經元之間輸入和輸出的差異,構造了兩個單獨的人工突觸來完成電路,一個代表大腦到硅片,另一個代表硅片到大腦。這兩個人工突觸中使用的尖端納米技術方面的細微差異導致了一條單向電路。從這個意義上說,該系統模仿大腦,信息只能沿一個方向通過其各自的系統來傳輸。
創建混合神經網絡的未來
由于需要揭露人類思維的奧秘,因此我的哲學基礎促使我在技術,技術之前接受了心理分析,心理學和神經科學方面的培訓。我致力于研究人類的思想,而沒有忽視作為硬件和計算開發人員多年的技術技能。
對我來說,人類是如此強大,以至于他從一開始就具有克服自己的能力和利用技術的優勢。火的發現,砂輪,用于制造工具的材料的處理是技術進步,與我們今天開發的技術一樣重要。顯然,我們必須將每個人都定位在他的時代,但是全人類的進步和成功故事的規模是毋庸置疑的。
這些進步之一已經在科學環境中應用了不到一年,并且涉及到混合神經網絡的創建。
我們認為腦功能是可能的,因為神經元回路是通過微觀但高度復雜的連接(稱為突觸)發生的。
在這個新概念中,科學家能夠創建一個混合神經網絡,位于世界各地的生物和人工神經元可以通過Internet相互通信。使用尖端的納米技術開發出人工突觸的核心之后,這種交流才成為可能。
這個復雜的項目是在不同的歐洲國家開發的,每個項目分別負責該項目的不同部分。
該研究分為幾個部分。意大利是負責培養嚙齒動物神經元的國家,而瑞士則負責創建人工神經元。另一方面,在英國,正在開發它們之間進行通信的過程,通過對發達的納米電子突觸進行精細控制的配置來構成虛擬實驗室。
盡管這是一個初期且簡化的過程,但對于科學來說是巨大的進步。在這個項目中,有可能通過互聯網將信息從生物神經元傳輸到人工神經元,也可以反向傳輸。
這些第一步是神經電子互聯網發展的關鍵。現在,研究人員預計,他們的方法將激發人們對一系列科學學科的興趣,并加快神經接口研究領域的創新和科學進步的步伐。尤其是,無縫鏈接全球不同技術的能力是邁向這些技術民主化的一步,從而消除了協作的重要障礙。
另一方面,它為更復雜的混合網絡的研究打開了大門,該網絡可用于人類,以彌補某些缺陷,即為交換大腦和計算機之間的相互作用創造平臺。腦部功能失調。由AI芯片生成復雜的混合神經網絡。顯然,鑒于研究的現狀,這將是一個有點未來主義的全景圖,但是到目前為止所取得的成就開辟了一系列可能性。
(雷鋒網,上海市大數據股份,互聯網分析沙龍網綜合整理)
責任編輯:lq
-
神經網絡
+關注
關注
42文章
4773瀏覽量
100890 -
模型
+關注
關注
1文章
3261瀏覽量
48914 -
神經元
+關注
關注
1文章
363瀏覽量
18470
發布評論請先 登錄
相關推薦
評論