從搜索引擎到自動(dòng)駕駛汽車,人工智能已經(jīng)進(jìn)入了我們的日常生活。這與近年來(lái)計(jì)算能力的巨大提升有關(guān)。但是,最新的人工智能研究成果表明,更簡(jiǎn)單、更小的神經(jīng)網(wǎng)絡(luò)可以比以前更好、更高效、更可靠得解決特定任務(wù)。 來(lái)自維也納理工大學(xué)(TU Wien)、奧地利IST和美國(guó)麻省理工學(xué)院(MIT)的一個(gè)國(guó)際研究團(tuán)隊(duì)開發(fā)了一種基于微小動(dòng)物(如線蟲)大腦的新型人工智能系統(tǒng)。 這種新穎的人工智能系統(tǒng)只需幾個(gè)人工神經(jīng)元就能控制車輛。該團(tuán)隊(duì)表示,與之前的深度學(xué)習(xí)模型相比,該系統(tǒng)具有決定性的優(yōu)勢(shì):它能更好地應(yīng)對(duì)嘈雜的輸入信息。此外,由于它的簡(jiǎn)單性,它的運(yùn)作模式可以被詳細(xì)的解釋。它不必被視為一個(gè)復(fù)雜的"黑盒子",它可以被人類理解。 目前,這種新的深度學(xué)習(xí)模型已經(jīng)發(fā)表在《自然機(jī)器智能》雜志上。
向自然學(xué)習(xí)
與活體大腦類似,人工神經(jīng)網(wǎng)絡(luò)由許多單個(gè)細(xì)胞組成。當(dāng)一個(gè)細(xì)胞處于活躍狀態(tài)時(shí),它會(huì)向其他細(xì)胞發(fā)出信號(hào)。下一個(gè)細(xì)胞會(huì)把接收到的所有信號(hào)都結(jié)合起來(lái),以決定自己是否要活躍起來(lái)。一個(gè)細(xì)胞影響下一個(gè)細(xì)胞活動(dòng)的方式?jīng)Q定了神經(jīng)系統(tǒng)的行為——這些參數(shù)在自動(dòng)學(xué)習(xí)過(guò)程中被調(diào)整,直到神經(jīng)網(wǎng)絡(luò)能夠解決特定的任務(wù)。 TU Wien的“網(wǎng)絡(luò)-物理系統(tǒng)”研究小組負(fù)責(zé)人Radu Grosu教授說(shuō):“多年來(lái),我們一直在研究我們可以從自然界中學(xué)習(xí)到什么來(lái)改善深度學(xué)習(xí)。舉例來(lái)說(shuō),線蟲C.elegans的神經(jīng)元的數(shù)量少得驚人,卻仍然能顯現(xiàn)出有趣的行為模式。這是因?yàn)榫€蟲的神經(jīng)系統(tǒng)處理信息的方式高效而和諧?!? 麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室(CSAIL)主任Daniela Rus教授說(shuō):“大自然告訴我們,現(xiàn)存的模型還有很多改進(jìn)的空間。因此,我們的目標(biāo)是大規(guī)模降低神經(jīng)網(wǎng)絡(luò)模型的復(fù)雜性并增強(qiáng)其可解釋性?!? 奧地利IST公司總裁Thomas Henzinger教授說(shuō):“受自然界的啟發(fā),我們開發(fā)了新的神經(jīng)元和突觸的數(shù)學(xué)模型?!? TU Wien計(jì)算機(jī)工程研究所和MIT CSAIL的博士后Ramin Hasani博士說(shuō):“單個(gè)細(xì)胞內(nèi)的信號(hào)處理遵循的數(shù)學(xué)原理與之前的深度學(xué)習(xí)模型不同。另外,我們的網(wǎng)絡(luò)是高度稀疏的——這意味著不是每個(gè)單元都與其他每個(gè)單元相連。這也使得網(wǎng)絡(luò)更加簡(jiǎn)單?!?
自主車道保持功能
為了測(cè)試這些新想法,該團(tuán)隊(duì)選擇了一個(gè)特別重要的測(cè)試任務(wù):使自動(dòng)駕駛汽車保持在自己的車道上,神經(jīng)網(wǎng)絡(luò)接收道路的攝像頭圖像作為輸入,然后自動(dòng)決定向右還是向左轉(zhuǎn)向。 TU Wien校友、奧地利IST的博士生Mathias Lechner說(shuō):“當(dāng)今市面上,具有數(shù)百萬(wàn)個(gè)參數(shù)的深度學(xué)習(xí)模型才通常用于學(xué)習(xí)如自動(dòng)駕駛一樣復(fù)雜的任務(wù)。然而,我們的新方法使我們能夠?qū)⒕W(wǎng)絡(luò)的大小減少兩個(gè)數(shù)量級(jí)。我們的系統(tǒng)只使用75000個(gè)可訓(xùn)練參數(shù)。” 麻省理工學(xué)院CSAIL的博士生Alexander Amini解釋說(shuō),新系統(tǒng)由兩部分組成。攝像頭圖像的輸入首先由一個(gè)所謂的卷積神經(jīng)網(wǎng)絡(luò)處理。該網(wǎng)絡(luò)只感知視覺數(shù)據(jù),并從輸入的像素中提取結(jié)構(gòu)特征。它決定了圖像中哪些部分是有趣的、重要的,隨后將信號(hào)傳遞給網(wǎng)絡(luò)的關(guān)鍵部分——引導(dǎo)車輛的“控制系統(tǒng)”。 這兩個(gè)子系統(tǒng)疊加在一起,并同時(shí)進(jìn)行訓(xùn)練。該團(tuán)隊(duì)收集了許多大波士頓地區(qū)人類駕駛的交通視頻,并將這些視頻與不同特定情況下如何轉(zhuǎn)向汽車的信息一起輸入網(wǎng)絡(luò)——直到系統(tǒng)學(xué)會(huì)了自動(dòng)將圖像與適當(dāng)?shù)霓D(zhuǎn)向方向連接起來(lái),并能獨(dú)立處理新情況。 系統(tǒng)的控制部分(稱為神經(jīng)回路策略,或NCP),將感知模塊的數(shù)據(jù)轉(zhuǎn)化為轉(zhuǎn)向指令,并只由19個(gè)神經(jīng)元組成。Mathias Lechner解釋說(shuō),NCP比以前最先進(jìn)的模型所能做到的要小3個(gè)數(shù)量級(jí)。
因果關(guān)系和可解釋性
新的深度學(xué)習(xí)模型已經(jīng)在一輛真正的自動(dòng)汽車上進(jìn)行了測(cè)試。 Ramin Hasani說(shuō):“我們的模型可以讓我們研究網(wǎng)絡(luò)在駕駛時(shí)在關(guān)注什么。我們的網(wǎng)絡(luò)關(guān)注著的是攝像頭畫面中非常特定的部分:路邊和地平線。這種行為是非常理想的,它在人工智能系統(tǒng)中是獨(dú)一無(wú)二的。此外,我們還可以識(shí)別每一個(gè)細(xì)胞在任何駕駛決策中的作用。我們可以理解單個(gè)細(xì)胞的功能及其行為。實(shí)現(xiàn)這種程度的可解釋性是大型深度學(xué)習(xí)模型不可能做到的?!?
穩(wěn)健性
Mathias Lechner說(shuō):“為了測(cè)試與之前的深度模型相比,NCPs的穩(wěn)健性如何,我們干擾了輸入圖像,并評(píng)估了模型處理噪聲的能力。雖然噪音是其他深度神經(jīng)網(wǎng)絡(luò)無(wú)法克服的問(wèn)題,但我們的NCPs表現(xiàn)出了對(duì)輸入噪音的強(qiáng)大抵抗力。這一屬性是新型神經(jīng)模型和架構(gòu)的直接結(jié)果?!? Ramin Hasani說(shuō):"可解釋性和穩(wěn)健性是我們新模型的兩大優(yōu)勢(shì)。但我們的模型還有更多的優(yōu)勢(shì)。使用我們的新方法還可以減少訓(xùn)練時(shí)間,以及在相對(duì)簡(jiǎn)單的系統(tǒng)中實(shí)現(xiàn)AI。我們的NCP可以在廣泛的潛在應(yīng)用(從倉(cāng)庫(kù)的自動(dòng)化工作到機(jī)器人運(yùn)動(dòng))中實(shí)現(xiàn)模仿學(xué)習(xí)。這個(gè)新的發(fā)現(xiàn)為人工智能界開辟了重要的新視角:生物神經(jīng)系統(tǒng)中的計(jì)算原理可以成為創(chuàng)建高性能,可解釋的人工智能的重要資源——成為迄今為止所使用的黑盒機(jī)器學(xué)習(xí)系統(tǒng)的替代方案。"
責(zé)任編輯:lq
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4734瀏覽量
100420 -
人工智能
+關(guān)注
關(guān)注
1789文章
46659瀏覽量
237094 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5465瀏覽量
120891
原文標(biāo)題:受小動(dòng)物大腦結(jié)構(gòu)啟發(fā),研究人員開發(fā)出新的深度學(xué)習(xí)模型:更少神經(jīng)元,更多智能
文章出處:【微信號(hào):tyutcsplab,微信公眾號(hào):智能感知與物聯(lián)網(wǎng)技術(shù)研究所】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論