多倫多大學和DeepMind研究人員合作,通過實驗表明某些哺乳動物的神經元也能進行深度學習。如果神經元與深度學習之間的關聯得以確認,我們就能開發更好的腦機接口,從疾病治療到增強智能,隨之而來的應用也將開啟各種可能。
神經網絡受生物神經網絡啟發而來,但大腦里的學習過程真如深度學習那樣嗎?這個問題的答案有望實現更強大的深度學習模型,也有助于進一步了解人類的智能。
12月5日,CIFAR研究員、多倫多大學的Blake A. Richards和同事在期刊eLife發表了論文《嘗試用分離的樹突進行深度學習》(Towards deep learning with segregated dendrites)。他們在論文中提出了一種算法,對大腦中可以如何進行深度學習進行了模擬。他們構建的網絡表明,某些哺乳動物神經元具有適合進行深度學習的形狀和電學特性。不僅如此,他們的實驗也用一種更接近生物學的方法,展示了真實的大腦如何進行深度學習,甚至有望幫助解釋大腦如何演化出了“學習”的能力。
如果神經元與深度學習之間的關聯得以確認,我們就能開發更好的腦機接口,從疾病治療到增強智能,隨之而來的應用也將開啟各種可能。
哺乳動物大腦的神經元也能做深度學習
這項研究由Richards和他在多倫多大學的研究生Jordan Guerguiev一起,與DeepMind的Timothy Lillicrap合作完成。
實驗中使用的神經元是小鼠大腦新皮質的樹突細胞。新皮質腦區負責一些高等功能,比如知覺、運動指令的產生,與空間推理、意識及人類語言也有關系。而樹突則是從神經元細胞本體發出的多分支突起,形狀類似樹木。樹突是神經元的輸入通道,將從其他神經元接收到的動作電位(電信號)傳送至細胞本體。
研究構建的“多房室神經網絡”模型示意:左邊是小鼠初級視覺皮層錐體神經元;右邊是簡化的神經元模型。
利用這種神經元結構的知識,Richards和Guerguiev建立了一個模型,叫做“多房室神經網絡”(multi-compartment neural network model)。在這個網絡中,神經元都在隔開的“隔間”中接收信號。由于一段一段隔開,不同層的模擬神經元能夠協作,實現深度學習。
結果發現,在識別手寫數字時,多層網絡的效果明顯好于單層的網絡。算法能夠利用多層網絡結構識別高階表示正是深度學習的核心標志。這表明小鼠大腦神經元跟人工神經元一樣都能進行深度學習。
“這只是一組模擬,所以不能準確反映大腦正在做什么。但是,如果大腦可以使用AI使用的算法,這已經足以證明我們可以開展更進一步的實驗調查了?!盧ichards說。
用更好的訓練方法,證明深度學習體現人類大腦工作機制
在21世紀初,Richards和Lillicrap在多倫多大學上了Hinton的課,深信深度學習模型在一定程度上準確反映了人類大腦工作的機制。但是,在當時要驗證這個想法還有幾個挑戰。首先,人們還不確定深度學習是否能達到人類水平。其次,深度學習算法違反了神經科學家已經證明的生物學事實。
計算機網絡在深度學習中發生的活動模式也類似于人類大腦中所見的模式。但是,深度學習的一些特征似乎與大腦的工作方式不相容。而且,人工網絡中的神經元比生物神經元簡單得多。
現在,Richards和一些研究人員正在積極尋求彌合神經科學和人工智能之間差距的方法。本文以Yoshua Bengio團隊的研究為基礎,以生物學上更加可行的方式訓練神經網絡。
均衡傳播示意圖:使用均衡傳播訓練神經網絡時信息的傳遞過程。右邊的簡單網絡,一層一層傳遞,BP適用,當然均衡傳播也適用;而左邊的復雜網絡,更加類似生物神經網絡結構,BP在這里就不適用了,這也是通常認為深度學習不能體現人腦機制的原因之一,但是,均衡傳播能夠適用于多連接的這種情況。
Bengio和他的研究生Benjamin Scellier發明了一種新的神經網絡訓練方法,叫做“均衡傳播”(equilibrium propagation),是常用的反向傳播(BP)的一種替代方法。均衡傳播可以使用單一的回路和單一類型的計算來進行誤差的推理和反向傳播。因此,均衡傳播過程可能更加類似大腦生物神經回路中的學習過程。
這項研究還使用了DeepMind的TimothyLillicrap開發的算法,進一步放寬了神經網絡的一些訓練規則。(順便一說,TimothyLillicrap也是DeepMind最強通用棋類AI AlphaZero論文的作者之一。)
這篇論文還吸收了Matthew Larkam對新皮質神經元結構的研究。通過將神經科學的發現與現有的算法相結合,Richards的團隊創建了一個更好的、更真實的算法來模擬大腦中的學習過程。
未來10年真正打通神經科學與人工智能
樹狀新皮質神經元只是大腦中許多細胞類型之一。Richards說,未來的研究應該模擬不同類型的大腦細胞,并研究它們如何相互作用來實現深度學習。從長遠看,他希望研究人員能夠克服重大挑戰,比如在不接收反饋的情況下如何通過經驗進行學習。
Richards說:“我們在接下來的十年左右可能會看到神經科學與人工智能之間真正的研究良性循環,神經科學的發現幫助我們開發新的人工智能,而人工智能幫助我們解釋和理解神經科學方面的實驗數據?!?/p>
-
神經網絡
+關注
關注
42文章
4772瀏覽量
100838 -
深度學習
+關注
關注
73文章
5504瀏覽量
121221
原文標題:哺乳動物大腦神經元也能做深度學習,未來10年神經科學與人工智能將迎突破
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論