如何用人工神經(jīng)網(wǎng)絡(luò)對(duì)神經(jīng)元進(jìn)行高精度連接？

7 月 16 日， Google AI 發(fā)布了一篇博客稱，Google Research 部門和 Max Planck 研究所合作提出了一種新型的遞歸神經(jīng)網(wǎng)絡(luò)，它可以提升連接組數(shù)據(jù)進(jìn)行自動(dòng)分析的準(zhǔn)確性，相比先前深度學(xué)習(xí)技術(shù)的準(zhǔn)確性是數(shù)量級(jí)的提升。

Jeff Dean 隨后也在 Twitter 上轉(zhuǎn)發(fā)評(píng)價(jià)稱，“使用人工神經(jīng)網(wǎng)絡(luò)重建真實(shí)神經(jīng)元的連接性研究真的很酷?！?/p>

▌數(shù)量級(jí)提升了連接組數(shù)據(jù)自動(dòng)分析的準(zhǔn)確性

根據(jù)維基百科的定義，連接組學(xué)（Connectomics）繪制與研究神經(jīng)連接組（connectomes）是一種刻畫有機(jī)體神經(jīng)系統(tǒng)（尤其是腦和眼）的連接方式的完整線路圖。由于這些結(jié)構(gòu)極其復(fù)雜，高效篩選的神經(jīng)成像和組織學(xué)方法被用于提高繪制神經(jīng)連接線路圖的速度、效率和精度。

連接組學(xué)的目的是全面映射神經(jīng)系統(tǒng)中的神經(jīng)元網(wǎng)絡(luò)的結(jié)構(gòu)，以便更好地理解大腦是如何運(yùn)作的。這個(gè)過程需要以納米分辨率（通常使用電子顯微鏡）對(duì)腦組織進(jìn)行 3D 成像，然后分析所得到的圖像數(shù)據(jù)，以追蹤大腦的神經(jīng)軸突，并識(shí)別單個(gè)突觸連接。

由于成像的高分辨率，即使是 1 立方毫米的腦組織也可以產(chǎn)生超過 1000 TB 的數(shù)據(jù)。再加上這些圖像中的結(jié)構(gòu)比較微妙和復(fù)雜，大腦映射的主要瓶頸是自動(dòng)分析這些數(shù)據(jù)，而不是獲取數(shù)據(jù)本身。

Google 與 Max Plank 神經(jīng)生物學(xué)研究所在《Nature Methods》中發(fā)表的“用泛洪填充網(wǎng)絡(luò)高效自動(dòng)重建神經(jīng)元（High-Precision Automated Reconstruction of Neurons with Flood-Filling Networks）”一文，則展示了一種新型的遞歸神經(jīng)網(wǎng)絡(luò)，如何提升連接組數(shù)據(jù)自動(dòng)分析的準(zhǔn)確性，這比先前深度學(xué)習(xí)技術(shù)是數(shù)量級(jí)的提升。

▌使用泛洪填充網(wǎng)絡(luò)進(jìn)行 3D 圖像分割

在大規(guī)模電子顯微鏡數(shù)據(jù)中追蹤神經(jīng)軸突是一個(gè)圖像分割問題。傳統(tǒng)算法將該過程劃分為至少兩個(gè)步驟：使用邊緣檢測(cè)器或機(jī)器學(xué)習(xí)分類器找出神經(jīng)軸突之間的邊界，然后使用分水嶺（watershd）或圖形切割等算法將未被邊界分隔的圖像像素進(jìn)行組合。

2015 年，他們開始嘗試基于遞歸神經(jīng)網(wǎng)絡(luò)的替代方法，將這兩個(gè)步驟統(tǒng)一起來。該算法在特定的像素位置播種，然后使用循環(huán)卷積神經(jīng)網(wǎng)絡(luò)不斷地“填充”一個(gè)區(qū)域，該網(wǎng)絡(luò)會(huì)預(yù)測(cè)哪些像素是與該特定像素屬于同一部分。自 2015 年以來，他們一直致力于將這種新方法應(yīng)用于大規(guī)模的連接組數(shù)據(jù)集，并嚴(yán)格量化其準(zhǔn)確性。

分割對(duì)象的泛洪填充網(wǎng)絡(luò)。黃點(diǎn)是當(dāng)前焦點(diǎn)區(qū)域的中心;當(dāng)算法不斷檢查整個(gè)圖像時(shí)，分割區(qū)域會(huì)不斷擴(kuò)展（藍(lán)色）。

▌通過預(yù)期的運(yùn)行長(zhǎng)度測(cè)量精度

他們?cè)O(shè)計(jì)了一個(gè)叫做“預(yù)期運(yùn)行長(zhǎng)度”（ERL）的度量標(biāo)準(zhǔn)：給出大腦三維圖像中隨機(jī)神經(jīng)元內(nèi)的隨機(jī)點(diǎn)，在犯錯(cuò)前，可以追蹤神經(jīng)元的距離。這是一個(gè)平均故障間隔時(shí)間（Mean Time Between Failures）的示例，但在這種情況下檢測(cè)出的是故障之間的空間而不是時(shí)間。

對(duì)于研究人員而言，ERL 的吸引力在于，它將線性物理路徑長(zhǎng)度與算法產(chǎn)生的各個(gè)錯(cuò)誤的頻率聯(lián)系起來，并且可以直接計(jì)算。對(duì)生物學(xué)家來說， ERL 的特定數(shù)值可以與生物學(xué)相關(guān)數(shù)量產(chǎn)生聯(lián)系，例如神經(jīng)系統(tǒng)不同部分的神經(jīng)元平均路徑長(zhǎng)度。

藍(lán)線表示預(yù)期運(yùn)行長(zhǎng)度（ERL）的結(jié)果。紅線表示“合并率”，“合并率”指兩個(gè)單獨(dú)的神經(jīng)軸突被錯(cuò)誤地追蹤為單個(gè)對(duì)象的頻率; 非常低的合并率對(duì)于實(shí)現(xiàn)手動(dòng)識(shí)別和糾正重建中的剩余錯(cuò)誤很重要。

▌鳴禽的連接組學(xué)

他們使用 ERL 測(cè)量了在 100 萬立方微米的斑胸草雀大腦的真實(shí)神經(jīng)元數(shù)據(jù)集，發(fā)現(xiàn)該方法的表現(xiàn)好于其他應(yīng)用于同一數(shù)據(jù)集的深度學(xué)習(xí)方法。

算法在追蹤斑胸草雀大腦中的單個(gè)神經(jīng)軸突

他們使用新的泛洪填充網(wǎng)絡(luò)方法對(duì)斑胸草雀大腦的一小部分神經(jīng)元進(jìn)行分割，重建一部分斑胸草雀的大腦。不同顏色表示使用填充灌溉網(wǎng)絡(luò)自動(dòng)生成的分割的不同對(duì)象。金球代表使用以前的方法自動(dòng)識(shí)別的突觸位置。

他們還將繼續(xù)改進(jìn)連接組學(xué)重建技術(shù)。為了幫助更多研究團(tuán)體開發(fā)連接組學(xué)技術(shù)，他們開發(fā)了用于泛洪填充網(wǎng)絡(luò)方法的 TensorFlow 代碼，并開發(fā)了用于 3D 數(shù)據(jù)集的 Web GL 可視化軟件幫助理解和改進(jìn)重建結(jié)果。