機(jī)器學(xué)習(xí)相關(guān)介紹—人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)的英文名稱為Artificial Neural Networks，英文簡(jiǎn)稱為Neural Networks。

人工神經(jīng)網(wǎng)絡(luò)為理論基礎(chǔ)在20世紀(jì)80年代已發(fā)展成熟，但人工神經(jīng)網(wǎng)絡(luò)方法曾經(jīng)無(wú)人問津。近年來(lái)，以人工神經(jīng)網(wǎng)絡(luò)為理論基礎(chǔ)的深度學(xué)習(xí)算法在幾乎所有主流機(jī)器學(xué)習(xí)領(lǐng)域取得了突破性的進(jìn)展，人工神經(jīng)網(wǎng)絡(luò)方法因而受到關(guān)注。

人工神經(jīng)網(wǎng)絡(luò)的基本思想是仿生學(xué)，即對(duì)人腦的神經(jīng)元運(yùn)作機(jī)制進(jìn)行模擬。當(dāng)計(jì)算機(jī)的計(jì)算資源較低時(shí)，計(jì)算機(jī)只能模擬少數(shù)人腦神經(jīng)元的運(yùn)作方式，所開發(fā)的機(jī)器學(xué)習(xí)系統(tǒng)性能不高；2000年后，隨著計(jì)算機(jī)的硬件能力發(fā)展，計(jì)算機(jī)可模擬幾十萬(wàn)至幾千萬(wàn)神經(jīng)元的運(yùn)作方式，所開發(fā)的機(jī)器學(xué)習(xí)系統(tǒng)性能較高。

一、人工智能的兩個(gè)學(xué)派

除了以人工神經(jīng)網(wǎng)絡(luò)為代表的仿生學(xué)派分支，人工智能學(xué)科還具有數(shù)理學(xué)派分支，支持向量機(jī)是數(shù)理學(xué)派分支的典型代表。此兩種學(xué)派在人工智能學(xué)科領(lǐng)域此消彼長(zhǎng)。

仿生學(xué)派認(rèn)為：人工智能模擬的是人腦對(duì)世界的認(rèn)識(shí)，因此，研究人腦認(rèn)知機(jī)理，總結(jié)人腦處理信息的方式，是實(shí)現(xiàn)人工智能的先決條件；計(jì)算機(jī)算法只有深入模擬人腦的認(rèn)知機(jī)制和信息處理方式，才能實(shí)現(xiàn)人工智能。

數(shù)理學(xué)派認(rèn)為：在現(xiàn)在以及可預(yù)見的未來(lái)，我們無(wú)法完全了解人腦的認(rèn)知機(jī)理；而且，計(jì)算機(jī)與人腦具有截然不同的物理屬性和體系結(jié)構(gòu)，因此，通過(guò)完全模仿人腦的認(rèn)知機(jī)制和信息處理方式既不可能，也不必須，人工智能的研究應(yīng)立足于現(xiàn)有計(jì)算機(jī)的物理屬性和體系結(jié)構(gòu)，采用數(shù)學(xué)和邏輯推理的方法從現(xiàn)有的計(jì)算機(jī)結(jié)構(gòu)中獲得確定的知識(shí)。

數(shù)理學(xué)派的觀點(diǎn)類似于雖然飛機(jī)的飛行機(jī)理與鳥的飛行機(jī)理不同，但飛機(jī)的飛行速度高于鳥的飛行速度。

二、人工神經(jīng)網(wǎng)絡(luò)模型

1943年，心理學(xué)家麥卡洛克（W.S.MeCulloch）和數(shù)理邏輯學(xué)家沃爾特·皮茨（W.Pitts）基于神經(jīng)元的生理結(jié)構(gòu)建立了單一神經(jīng)細(xì)胞的數(shù)學(xué)模型，該模型被稱為MP模型。

?

圖片來(lái)源：中國(guó)慕課大學(xué)《機(jī)器學(xué)習(xí)概論》

MP模型將神經(jīng)細(xì)胞的外部刺激模擬為輸入，將神經(jīng)細(xì)胞的樹突對(duì)外部刺激的加工過(guò)程模擬為以某個(gè)權(quán)重對(duì)輸入加權(quán)，將細(xì)胞核對(duì)外部刺激的處理模擬為帶有偏置的求和，將神經(jīng)細(xì)胞向外傳遞的信號(hào)模擬為將求和值輸入至非線性函數(shù)的輸出。

?

圖片來(lái)源：中國(guó)慕課大學(xué)《機(jī)器學(xué)習(xí)概論》

盡管MP模型為神經(jīng)細(xì)胞的運(yùn)作機(jī)制提供了數(shù)學(xué)模型，但MP模型過(guò)于簡(jiǎn)單，與神經(jīng)細(xì)胞的實(shí)際運(yùn)作機(jī)制相差甚遠(yuǎn)。單個(gè)神經(jīng)細(xì)胞的確會(huì)在接受外界刺激后做出反應(yīng)，但此反應(yīng)是否可采用對(duì)輸入的刺激加權(quán)求和再加偏置的形式表示有待探討，至今為止，沒有生物學(xué)實(shí)驗(yàn)支持MP模型，動(dòng)物或人神經(jīng)細(xì)胞的運(yùn)作機(jī)制較MP模型復(fù)雜。

除MP模型外，人工神經(jīng)網(wǎng)絡(luò)模型還包括：脈沖神經(jīng)網(wǎng)絡(luò)（Spiking neural networks）、hopfield神經(jīng)網(wǎng)絡(luò)等。目前，應(yīng)用最廣泛的模型是MP模型。

審核編輯：劉清