麻省理工學(xué)院(MIT)的研究人員利用機(jī)器學(xué)習(xí)算法中的深度神經(jīng)網(wǎng)絡(luò),創(chuàng)造出了第一個可以在識別音樂類型等聽覺任務(wù)上模擬人類表現(xiàn)的模型。
該模型由許多信息處理單元組成,通過輸入大量的數(shù)據(jù)來訓(xùn)練此模型,以完成特定的任務(wù)。研究人員利用該模型來闡明人腦是如何執(zhí)行同樣的任務(wù)的。
Josh McDermott說:“這些模型第一次給我們提供一個能夠執(zhí)行對人類有意義的感官任務(wù)的機(jī)器系統(tǒng),并且是在人類的水平等級上進(jìn)行這項(xiàng)工作?!彼锹槭±砉W(xué)院大腦和認(rèn)知科學(xué)系的神經(jīng)科學(xué)Frederick A.和Carole J. Middleton的助理教授,也是這項(xiàng)研究的資深作者。 “從歷史上看,這種感官的處理方式很難理解,部分原因是我們沒有一個非常明確的理論基礎(chǔ),也沒有一個很好的方法來對可能正在發(fā)生的事情進(jìn)行開發(fā)建模?!?/p>
這項(xiàng)研究發(fā)表在4月19日的《Neuron》雜志上,這項(xiàng)研究也證明了人類的聽覺皮層排列在在一個等級分明的組織中,就像視覺皮質(zhì)一樣。在這種類型的排列中,感官信息經(jīng)過連續(xù)的處理,基本信息處理得更早,而像單詞含義一樣的更高級特征在后期處理。
麻省理工學(xué)院研究生Alexander Kell和斯坦福大學(xué)助理教授Daniel Yamins是論文的主要作者。其他作者是麻省理工學(xué)院前訪問學(xué)生Erica Shook和前麻省理工學(xué)院博士后Sam Norman Haignere。
大腦建模:模型學(xué)會了像人類一樣準(zhǔn)確地執(zhí)行任務(wù)
當(dāng)神經(jīng)網(wǎng)絡(luò)在20世紀(jì)80年代首次出現(xiàn)時,神經(jīng)科學(xué)家們希望這種系統(tǒng)可以用來模擬人腦。然而,來自那個時代的計算機(jī)不夠強(qiáng)大,無法建立足夠大的模型來進(jìn)行一些實(shí)際任務(wù),如物體識別或語音識別等。
在過去的五年里,隨著計算能力和神經(jīng)網(wǎng)絡(luò)技術(shù)的進(jìn)步,使用神經(jīng)網(wǎng)絡(luò)來執(zhí)行這些困難的現(xiàn)實(shí)任務(wù)已經(jīng)成為一種可能,而且它們已經(jīng)成為許多工程應(yīng)用程序中的標(biāo)準(zhǔn)方法。與此同時,一些神經(jīng)科學(xué)家對這些系統(tǒng)是否能夠來模擬人腦進(jìn)行了重新審視。
Kell說:“這對于神經(jīng)科學(xué)來說是一個激動人心的機(jī)會,因?yàn)槲覀兛梢詣?chuàng)造出可以代替人類來執(zhí)行某些工作的系統(tǒng),然后我們可以對這些模型進(jìn)行測試并將它們與大腦進(jìn)行比較?!?/p>
麻省理工學(xué)院的研究人員訓(xùn)練他們的神經(jīng)網(wǎng)絡(luò)來執(zhí)行兩個聽覺任務(wù),一個涉及語音,另一個涉及音樂。在語音任務(wù)中,研究人員給模型提供了成千上萬的兩秒鐘長的錄音。任務(wù)是識別音頻中單詞。在音樂任務(wù)中,該模型被要求識別那些兩秒鐘音樂片段的類型。每個片段還包括背景噪音,使任務(wù)更加現(xiàn)實(shí)也更加困難。
在完成了成千上萬的數(shù)據(jù)訓(xùn)練之后,模型學(xué)會了像人類一樣準(zhǔn)確地執(zhí)行任務(wù)。
Kell說:“這個想法是隨著時間的推移,模型在任務(wù)中變得越來越好。希望它正在學(xué)習(xí)一些一般的東西,所以如果你給模型輸入一種它以前從未聽過的新聲音,它會做得很好,這已經(jīng)在實(shí)驗(yàn)中得到了證明。”
該模型還傾向于在人類最容易犯錯誤的片段上犯錯誤。
組成神經(jīng)網(wǎng)絡(luò)的處理單元可以以多種方式組合在一起,形成可以影響模型的性能的不同模型結(jié)構(gòu)。
麻省理工研究團(tuán)隊(duì)發(fā)現(xiàn),這兩項(xiàng)任務(wù)的最佳模型是將處理分為兩組階段。第一階段是在任務(wù)之間共享的,但在此之后,它分成兩個分支,用于進(jìn)一步的分析:一個用于語音處理任務(wù),另一個用于音樂處理任務(wù)。
分級的證據(jù):初級聽覺皮層和其他有區(qū)別
然后,研究人員用他們的模型對一個長期存在的關(guān)于聽覺皮層結(jié)構(gòu)的問題進(jìn)行了探索:它是否分級。
在分級系統(tǒng)中,一系列的大腦區(qū)域在流經(jīng)系統(tǒng)的感官信息上執(zhí)行不同類型的計算。有證據(jù)表明,視覺皮層有相同類型的組織結(jié)構(gòu)。前期的區(qū)域,被稱為初級視覺皮質(zhì),對簡單的特征如顏色或方向做出反應(yīng)。后端的區(qū)域則執(zhí)行更復(fù)雜的任務(wù),如對象識別。
然而,很難測試這種類型的組織是否也存在于聽覺皮層中,部分原因是沒有一個好的模型來對人類的聽覺行為進(jìn)行復(fù)制。
McDermott說:“我們認(rèn)為,如果我們可以構(gòu)建一個和人類執(zhí)行同樣任務(wù)的模型,我們就能夠比較將模型不同階段的不同部分與大腦進(jìn)行比價,這樣可以得到一些證據(jù)來證明大腦中的一些部分是否是分級的組織?!?/p>
研究人員發(fā)現(xiàn),在他們的模型中聲音的基本特征,如頻率在早期階段更容易被提取。當(dāng)信息在神經(jīng)網(wǎng)上不斷向后傳輸?shù)倪^程中,一些基本特征越來越難提取,而更高層次的信息,例如詞的含義變得更容易提取。
為了驗(yàn)證模型階段是否可以復(fù)制人類聽覺皮層處理聲音信息的方式,研究人員使用了功能性磁共振成像(fMRI)來測量大腦處理真實(shí)聲音時聽覺皮層的不同區(qū)域。然后,他們比較了在處理相同的聲音時,大腦和模型的區(qū)別。
他們發(fā)現(xiàn),模型的中間階段與大腦初級聽覺皮層的活動相似性最高,隨后的網(wǎng)絡(luò)與初級皮質(zhì)以外的活動相呼應(yīng)。研究人員說,這為聽覺皮層以一種類似于視覺皮層的分級方式排列提供了證據(jù)。
McDermott說:“我們非常清楚地看到,初級聽覺皮層和其他所有東西之間的區(qū)別?!?/p>
作者現(xiàn)在打算開發(fā)一種可以執(zhí)行其他類型的聽覺任務(wù)的模型,例如特定聲音的發(fā)聲位置定位,來探討這些任務(wù)是否可以通過本文中發(fā)現(xiàn)的思路來完成,或者說其他的一些任務(wù)通過對人腦進(jìn)行研究,以獲得新的思路。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4749瀏覽量
100434 -
語音識別
+關(guān)注
關(guān)注
38文章
1713瀏覽量
112503 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8357瀏覽量
132325
原文標(biāo)題:MIT開發(fā)聽覺神經(jīng)網(wǎng)絡(luò)模型,學(xué)會從2秒片段識別音樂類型
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論