神經網絡分類

1、BP神經網絡

BP（BackPropagation）神經網絡是一種神經網絡學習算法。其由輸入層、中間層、輸出層組成的階層型神經網絡，中間層可擴展為多層。相鄰層之間各神經元進行全連接，而每層各神經元之間無連接，網絡按有教師示教的方式進行學習，當一對學習模式提供給網絡后，各神經元獲得網絡的輸入響應產生連接權值（Weight）。然后按減小希望輸出與實際輸出誤差的方向，從輸出層經各中間層逐層修正各連接權，回到輸入層。此過程反復交替進行，直至網絡的全局誤差趨向給定的極小值，即完成學習的過程。

2、RBF（徑向基）神經網絡

徑向基函數（RBF-RadialBasisFunction）神經網絡是由J.Moody和C.Darken在80年代末提出的一種神經網絡，它是具有單隱層的三層前饋網絡。由于它模擬了人腦中局部調整、相互覆蓋接收域（或稱感受野-ReceptiveField）的神經網絡結構，因此，RBF網絡是一種局部逼近網絡，它能夠以任意精度逼近任意連續函數，特別適合于解決分類問題。

3、感知器神經網絡

是一個具有單層計算神經元的神經網絡，網絡的傳遞函數是線性閾值單元。原始的感知器神經網絡只有一個神經元。主要用來模擬人腦的感知特征，由于采取閾值單元作為傳遞函數，所以只能輸出兩個值，適合簡單的模式分類問題。當感知器用于兩類模式分類時，相當于在高維樣本空間用一個超平面將兩類樣本分開，但是單層感知器只能處理線性問題，對于非線性或者線性不可分問題無能為力。假設p是輸入向量，w是權值矩陣向量，b為閾值向量，由于其傳遞函數是閾值單元，也就是所謂的硬限幅函數，那么感知器的決策邊界就是wp+b，當wp+b〉=0時，判定類別1，否則判定為類別2。

4、線性神經網絡

線性神經網絡是比較簡單的一種神經網絡，由一個或者多個線性神經元構成。采用線性函數作為傳遞函數，所以輸出可以是任意值。線性神經網絡可以采用基于最小二乘LMS的Widrow－Hoff學習規則調節網絡的權值和閾值，和感知器一樣，線性神經網絡只能處理反應輸入輸出樣本向量空間的線性映射關系，也只能處理線性可分問題。目前線性神經網絡在函數擬合、信號濾波、預測、控制等方面有廣泛的應用。線性神經網絡和感知器網絡不同，它的傳遞函數是線性函數，輸入和輸出之間是簡單的純比例關系，而且神經元的個數可以是多個。只有一個神經元的線性神經網絡僅僅在傳遞函數上和感知器不同，前者是線性函數的傳遞函數，后者是閾值單元的傳遞函數，僅此而已。

5、自組織神經網絡

在生物神經細胞中存在一種特征敏感細胞，這種細胞只對外界信號刺激的某一特征敏感，并且這種特征是通過自學習形成的。在人腦的腦皮層中，對于外界信號刺激的感知和處理是分區進行的，有學者認為，腦皮層通過鄰近神經細胞的相互競爭學習，自適應的發展稱為對不同性質的信號敏感的區域。根據這一特征現象，芬蘭學者Kohonen提出了自組織特征映射神經網絡模型。他認為一個神經網絡在接受外界輸入模式時，會自適應的對輸入信號的特征進行學習，進而自組織成不同的區域，并且在各個區域對輸入模式具有不同的響應特征。在輸出空間中，這些神經元將形成一張映射圖，映射圖中功能相同的神經元靠的比較近，功能不同的神經元分的比較開，自組織特征映射網絡也是因此得名。

自組織映射過程是通過競爭學習完成的。所謂競爭學習是指同一層神經元之間相互競爭，競爭勝利的神經元修改與其連接的連接權值的過程。競爭學習是一種無監督學習方法，在學習過程中，只需要向網絡提供一些學習樣本，而無需提供理想的目標輸出，網絡根據輸入樣本的特性進行自組織映射，從而對樣本進行自動排序和分類。

自組織神經網絡包括自組織競爭網絡、自組織特征映射網絡、學習向量量化等網絡結構形式。

6、反饋神經網絡

前面介紹的網絡都是前向網絡，實際應用中還有另外一種網絡——反饋網絡。在反饋網絡中，信息在前向傳遞的同時還要進行反向傳遞，這種信息的反饋可以發生在不同網絡層的神經元之間，也可以只局限于某一層神經元上。由于反饋網絡屬于動態網絡，只有滿足了穩定條件，網絡才能在工作了一段時間之后達到穩定狀態。反饋網絡的典型代表是Elman網絡和Hopfield網絡。