神經(jīng)網(wǎng)絡(luò)分類
1、BP神經(jīng)網(wǎng)絡(luò)
BP(BackPropagation)神經(jīng)網(wǎng)絡(luò)是一種神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。其由輸入層、中間層、輸出層組成的階層型神經(jīng)網(wǎng)絡(luò),中間層可擴展為多層。相鄰層之間各神經(jīng)元進行全連接,而每層各神經(jīng)元之間無連接,網(wǎng)絡(luò)按有教師示教的方式進行學(xué)習(xí),當一對學(xué)習(xí)模式提供給網(wǎng)絡(luò)后,各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)產(chǎn)生連接權(quán)值(Weight)。然后按減小希望輸出與實際輸出誤差的方向,從輸出層經(jīng)各中間層逐層修正各連接權(quán),回到輸入層。此過程反復(fù)交替進行,直至網(wǎng)絡(luò)的全局誤差趨向給定的極小值,即完成學(xué)習(xí)的過程。
2、RBF(徑向基)神經(jīng)網(wǎng)絡(luò)
徑向基函數(shù)(RBF-RadialBasisFunction)神經(jīng)網(wǎng)絡(luò)是由J.Moody和C.Darken在80年代末提出的一種神經(jīng)網(wǎng)絡(luò),它是具有單隱層的三層前饋網(wǎng)絡(luò)。由于它模擬了人腦中局部調(diào)整、相互覆蓋接收域(或稱感受野-ReceptiveField)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),因此,RBF網(wǎng)絡(luò)是一種局部逼近網(wǎng)絡(luò),它能夠以任意精度逼近任意連續(xù)函數(shù),特別適合于解決分類問題。
3、感知器神經(jīng)網(wǎng)絡(luò)
是一個具有單層計算神經(jīng)元的神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)的傳遞函數(shù)是線性閾值單元。原始的感知器神經(jīng)網(wǎng)絡(luò)只有一個神經(jīng)元。主要用來模擬人腦的感知特征,由于采取閾值單元作為傳遞函數(shù),所以只能輸出兩個值,適合簡單的模式分類問題。當感知器用于兩類模式分類時,相當于在高維樣本空間用一個超平面將兩類樣本分開,但是單層感知器只能處理線性問題,對于非線性或者線性不可分問題無能為力。假設(shè)p是輸入向量,w是權(quán)值矩陣向量,b為閾值向量,由于其傳遞函數(shù)是閾值單元,也就是所謂的硬限幅函數(shù),那么感知器的決策邊界就是wp+b,當wp+b〉=0時,判定類別1,否則判定為類別2。
4、線性神經(jīng)網(wǎng)絡(luò)
線性神經(jīng)網(wǎng)絡(luò)是比較簡單的一種神經(jīng)網(wǎng)絡(luò),由一個或者多個線性神經(jīng)元構(gòu)成。采用線性函數(shù)作為傳遞函數(shù),所以輸出可以是任意值。線性神經(jīng)網(wǎng)絡(luò)可以采用基于最小二乘LMS的Widrow-Hoff學(xué)習(xí)規(guī)則調(diào)節(jié)網(wǎng)絡(luò)的權(quán)值和閾值,和感知器一樣,線性神經(jīng)網(wǎng)絡(luò)只能處理反應(yīng)輸入輸出樣本向量空間的線性映射關(guān)系,也只能處理線性可分問題。目前線性神經(jīng)網(wǎng)絡(luò)在函數(shù)擬合、信號濾波、預(yù)測、控制等方面有廣泛的應(yīng)用。線性神經(jīng)網(wǎng)絡(luò)和感知器網(wǎng)絡(luò)不同,它的傳遞函數(shù)是線性函數(shù),輸入和輸出之間是簡單的純比例關(guān)系,而且神經(jīng)元的個數(shù)可以是多個。只有一個神經(jīng)元的線性神經(jīng)網(wǎng)絡(luò)僅僅在傳遞函數(shù)上和感知器不同,前者是線性函數(shù)的傳遞函數(shù),后者是閾值單元的傳遞函數(shù),僅此而已。
5、自組織神經(jīng)網(wǎng)絡(luò)
在生物神經(jīng)細胞中存在一種特征敏感細胞,這種細胞只對外界信號刺激的某一特征敏感,并且這種特征是通過自學(xué)習(xí)形成的。在人腦的腦皮層中,對于外界信號刺激的感知和處理是分區(qū)進行的,有學(xué)者認為,腦皮層通過鄰近神經(jīng)細胞的相互競爭學(xué)習(xí),自適應(yīng)的發(fā)展稱為對不同性質(zhì)的信號敏感的區(qū)域。根據(jù)這一特征現(xiàn)象,芬蘭學(xué)者Kohonen提出了自組織特征映射神經(jīng)網(wǎng)絡(luò)模型。他認為一個神經(jīng)網(wǎng)絡(luò)在接受外界輸入模式時,會自適應(yīng)的對輸入信號的特征進行學(xué)習(xí),進而自組織成不同的區(qū)域,并且在各個區(qū)域?qū)斎肽J骄哂胁煌捻憫?yīng)特征。在輸出空間中,這些神經(jīng)元將形成一張映射圖,映射圖中功能相同的神經(jīng)元靠的比較近,功能不同的神經(jīng)元分的比較開,自組織特征映射網(wǎng)絡(luò)也是因此得名。
自組織映射過程是通過競爭學(xué)習(xí)完成的。所謂競爭學(xué)習(xí)是指同一層神經(jīng)元之間相互競爭,競爭勝利的神經(jīng)元修改與其連接的連接權(quán)值的過程。競爭學(xué)習(xí)是一種無監(jiān)督學(xué)習(xí)方法,在學(xué)習(xí)過程中,只需要向網(wǎng)絡(luò)提供一些學(xué)習(xí)樣本,而無需提供理想的目標輸出,網(wǎng)絡(luò)根據(jù)輸入樣本的特性進行自組織映射,從而對樣本進行自動排序和分類。
自組織神經(jīng)網(wǎng)絡(luò)包括自組織競爭網(wǎng)絡(luò)、自組織特征映射網(wǎng)絡(luò)、學(xué)習(xí)向量量化等網(wǎng)絡(luò)結(jié)構(gòu)形式。
6、反饋神經(jīng)網(wǎng)絡(luò)
前面介紹的網(wǎng)絡(luò)都是前向網(wǎng)絡(luò),實際應(yīng)用中還有另外一種網(wǎng)絡(luò)——反饋網(wǎng)絡(luò)。在反饋網(wǎng)絡(luò)中,信息在前向傳遞的同時還要進行反向傳遞,這種信息的反饋可以發(fā)生在不同網(wǎng)絡(luò)層的神經(jīng)元之間,也可以只局限于某一層神經(jīng)元上。由于反饋網(wǎng)絡(luò)屬于動態(tài)網(wǎng)絡(luò),只有滿足了穩(wěn)定條件,網(wǎng)絡(luò)才能在工作了一段時間之后達到穩(wěn)定狀態(tài)。反饋網(wǎng)絡(luò)的典型代表是Elman網(wǎng)絡(luò)和Hopfield網(wǎng)絡(luò)。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4717瀏覽量
99996
發(fā)布評論請先 登錄
相關(guān)推薦
評論