近日,多倫多大學的教員、谷歌大腦(Google Brain)研究員杰弗里·辛頓(Geoffrey Hinton)發表了爐邊談話。他討論了神經網絡的起源,以及人工智能有朝一日可能像人類一樣推理的可行性和意義。
辛頓被一些人稱為“人工智能教父”,他在過去30年里一直致力于解決人工智能面臨的一些最大挑戰。除了在機器學習方面的開創性工作以外,他還撰寫以及與他人合作撰寫了200多篇經過同行評議的論文,其中包括1986年發表的一篇關于機器學習技術(被稱為反向傳播學習算法)的論文。
他普及了深度神經網絡的概念,即包含上述功能的人工智能模型,它們被安排在相互連接的層中,傳輸“信號”并調整連接的突觸強度(權重)。通過這種方式,人工智能模型從輸入數據中提取特征,并學習做出預測。
辛頓坦言,創新的速度甚至讓他自己都感到驚訝。“在2012年,我沒想到5年以后,我們就能夠使用相同的技術來在多種語言之間進行翻譯。”
盡管如此,辛頓認為目前的人工智能和機器學習方法都有其局限性。他指出,大多數的計算機視覺模型都沒有反饋機制,也就是說,它們不會試圖從更高層級的表征重建數據。相反,它們試圖通過改變權重來有區別地學習特征。“它們并沒有在每一層的特征探測器上檢查是否能夠重建下面的數據。”辛頓說道。
他和同事們最近轉向人類視覺皮層來尋找靈感。
辛頓說,人類的視覺采用了一種重建的方法來學習,事實證明,計算機視覺系統中的重建技術增強了它們對對抗攻擊的抵抗力。
“大腦科學家都同意這樣的觀點,如果你的大腦皮層有兩個區域處于感知通路中,并且相互連接,那么總有一個反向通路。”辛頓表示。
需要說明的是,辛頓認為,神經科學家需要向人工智能研究人員學習很多東西。事實上,他覺得未來的人工智能系統將主要是非監督式的。他說,非監督式學習——機器學習的一個分支,從未標記、無法歸類和未分類的測試數據中收集知識——在學習共性和對潛在的共性做出反應的能力方面,幾乎就像人類一般。
“如果你用一個有數十億個參量的系統,在某個目標函數中實施梯度下降,它的效果會比你想象的好得多……規模越大,效果越好。”他說,“相比于讓大腦計算某個目標函數的梯度,并根據梯度更新突觸的強度,這要更加合理。我們只需要弄清楚它是如何得到梯度的以及目標函數是什么。”
這甚至可能會解開夢的奧秘。“為什么我們根本不記得我們的夢呢?”辛頓反問道。他認為這可能與“反學習”有關。
辛頓說,“做夢的意義可能在于,你把整個學習過程顛倒過來。”
在他看來,這些知識可能會完全改變一些領域,比如教育。例如,他預計,未來的課程將更加個性化,有更強的針對性,將把人類生物化學過程考慮進來。
“你可能會認為,如果我們真正了解大腦的運轉機制,我們應該能夠改善教育等方面的狀況,我認為我們會做到的。”辛頓稱,“如果你能最終了解大腦發生了什么,它是如何學習的,而不是沒有去進行調整適應,取得更好的學習效果,那會令人費解。”
他警告說,實現這一點尚需時日。就近期而言,辛頓設想了智能助手的未來——比如谷歌的Google Assistant或亞馬遜的Alexa——它們可以與用戶互動,并在日常生活中給他們提供各種指導。
“未來幾年,我不確定我們能否從智能助手那里學到很多東西。但如果你仔細觀察,你會發現現在的智能助手相當聰明,一旦它們真的能聽懂對話,它們就能和孩子們交談,并對他們進行教育。”辛頓總結道。
-
神經網絡
+關注
關注
42文章
4771瀏覽量
100720 -
AI
+關注
關注
87文章
30763瀏覽量
268910
原文標題:AI教父杰弗里辛頓:AI反學習可能揭開人類夢境的奧秘
文章出處:【微信號:smartman163,微信公眾號:網易智能】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論