深度學習,在某種意義上是“深層人工神經網絡”的重命名,從2006年開始在Geoffrey Hinton、Yann LeCun(楊立昆)、Yoshua Bengio、Andrew Ng(吳恩達)等教授以及學術界、工業界很多研究人員的推動下重新興起,并在語音(2010年)和圖像(2012年)識別領域取得了重大技術突破。
科幻場景
深度學習,人工智能的一大突破
傳統機器學習系統主要是由一個輸入層和一個輸出層組成的淺層神經網。在神經網絡里,程序繪制出一組虛擬神經元,然后給它們之間的連接分配隨機數值或稱“權重”,經由反復的訓練來實現誤差最小化。但是早期的神經網絡只能模擬為數不多的神經元,所以不能識別太復雜的模式。
科幻作品中的機器人
深度學習中的“深度”是一個術語,指的是一個神經網絡中的層的數量。顧名思義,深度學習網絡與更常見的單一隱藏層神經網絡的區別在于層數的深度,也就是數據在模式識別的多步流程中所經過的節點層數。淺層神經網絡有一個所謂的隱藏層,而深度神經網絡則不止一個隱藏層。多個隱藏層讓深度神經網絡能夠以分層的方式學習數據的特征,因為簡單特征(比如兩個像素)可逐層疊加,形成更為復雜的特征(比如一條直線)。
在深度學習網絡中,每一個節點層在前一層輸出的基礎上學習識別一組特定的特征。隨著神經網絡深度的增加,神經元節點所能識別的特征也就越來越復雜,因為每一層會整合并重組前一層的特征。
第一層神經元學習初級特征,例如分辨圖像邊緣或語音中的最小單元,方法是找到那些比隨機分布出現得更多的數字化像素或聲波的組合。一旦這一層神經元準確地識別了這些特征,數據就會被輸送到下一層,并自我訓練以識別更復雜的特征,例如語音的組合或者圖像中的一個角。這一過程會逐層重復,直到系統能夠可靠地識別出音素(根據語音的自然屬性劃分出來的最小語音單位)或物體為止。
訓練
一旦算法框架構建起來后,人工神經網絡就需要很多的“訓練”來達到誤差最小化。所以這也是深度學習
的名字的由來,深度(多層的神經網絡)和學習(大量的數據訓練)都是必不可少的。
機器學習有三種主要學習方式:監督學習、無監督學習和強化學習。每一種學習方式都可以用在深度人工神經網絡的訓練過程中。
科幻作品
發展至今,深度人工神經網絡的算法在圖像識別、聲音識別、推薦系統等重要問題上不斷刷新準確率紀錄。從沉寂了幾十年到火爆的熱門技術,有三個重要原因推動了深度學習的發展。
-
人工智能
+關注
關注
1792文章
47354瀏覽量
238834 -
深度學習
+關注
關注
73文章
5504瀏覽量
121248
發布評論請先 登錄
相關推薦
評論