神經網絡沒有一個嚴格的正式定義。它的基本特點，是試圖模仿大腦的神經元之間傳遞，處理信息的模式。

　　一個計算模型，要劃分為神經網絡，通常需要大量彼此連接的節點 （也稱 ‘神經元’），并且具備兩個特性：

　　每個神經元，通過某種特定的輸出函數 （也叫激勵函數 activation function），計算處理來自其它相鄰神經元的加權輸入值。

　　神經元之間的信息傳遞的強度，用所謂加權值來定義，算法會不斷自我學習，調整這個加權值。

　　在此基礎上，神經網絡的計算模型，依靠大量的數據來訓練，還需要：

　　成本函數 （cost function）：用來定量評估根據特定輸入值， 計算出來的輸出結果，離正確值有多遠，結果有多靠譜。

　　學習的算法 （ learning algorithm ）：這是根據成本函數的結果， 自學， 糾錯， 最快地找到神經元之間最優化的加權值。

　　深度學習的概念由Hinton等人于2006年提出。基于深度置信網絡（DBN）提出非監督貪心逐層訓練算法，為解決深層結構相關的優化難題帶來希望，隨后提出多層自動編碼器深層結構。此外Lecun等人提出的卷積神經網絡是第一個真正多層結構學習算法，它利用空間相對關系減少參數數目以提高訓練性能。

　　深度學習是機器學習中一種基于對數據進行表征學習的方法。觀測值（例如一幅圖像）可以使用多種方式來表示，如每個像素強度值的向量，或者更抽象地表示成一系列邊、特定形狀的區域等。而使用某些特定的表示方法更容易從實例中學習任務（例如，人臉識別或面部表情識別）。深度學習的好處是用非監督式或半監督式的特征學習和分層特征提取高效算法來替代手工獲取特征。

　　邊緣檢測是圖像處理和計算機視覺中的基本問題，邊緣檢測的目的是標識數字圖像中亮度變化明顯的點。圖像屬性中的顯著變化通常反映了屬性的重要事件和變化。 這些包括（i）深度上的不連續、（ii）表面方向不連續、（iii）物質屬性變化和（iv）場景照明變化。 邊緣檢測是圖像處理和計算機視覺中，尤其是特征提取中的一個研究領域。