用于低內(nèi)存 IoT 設(shè)備的神經(jīng)網(wǎng)絡(luò)

新的神經(jīng)網(wǎng)絡(luò)。

一位來自俄羅斯的科學(xué)家開發(fā)了一種新的神經(jīng)網(wǎng)絡(luò)架構(gòu)，并測試了其在識別手寫數(shù)字上的學(xué)習(xí)能力。網(wǎng)絡(luò)智能被混沌放大，分類準(zhǔn)確率達到96.3%。該網(wǎng)絡(luò)可用于具有少量 RAM 的微控制器，并嵌入到鞋子或冰箱等家居用品中，使其“智能”。這項研究發(fā)表在《電子》上。

今天，尋找新的神經(jīng)網(wǎng)絡(luò)，可以操作微控制器與少量的隨機訪問內(nèi)存（RAM）是特別重要的。為了進行比較，在普通現(xiàn)代計算機中，隨機訪問內(nèi)存以千兆字節(jié)為單位計算。盡管微控制器的處理能力比筆記本電腦和智能手機要小得多，但它們體積更小，可以與家用物品進行接口。智能門、冰箱、鞋子、眼鏡、水壺和咖啡壺為所謂的環(huán)境智能奠定了基礎(chǔ)。這個詞表示一個互聯(lián)的智能設(shè)備的環(huán)境。

環(huán)境智能的一個例子是智能家居。內(nèi)存有限的設(shè)備無法存儲大量密鑰，用于安全數(shù)據(jù)傳輸和神經(jīng)網(wǎng)絡(luò)設(shè)置陣列。它阻止將人工智能引入物聯(lián)網(wǎng)設(shè)備，因為它們?nèi)狈λ璧挠嬎隳芰?。但是，人工智能將使智能設(shè)備在分析和決策上花費更少的時間，更好地了解用戶，并友好地幫助他們。因此，在創(chuàng)造環(huán)境情報方面，例如在保健領(lǐng)域，可以出現(xiàn)許多新的機會。

俄羅斯彼得羅扎沃茨克州立大學(xué)的安德烈·維利奇科（Andrei Velichko）創(chuàng)建了一種新的神經(jīng)網(wǎng)絡(luò)架構(gòu)，允許高效使用少量 RAM，為將低功耗設(shè)備引入物聯(lián)網(wǎng)創(chuàng)造了機會。網(wǎng)絡(luò)稱為 LogNNet，是一個饋送神經(jīng)網(wǎng)絡(luò)，其中信號僅從輸入定向到輸出。它對傳入信號使用確定性混沌濾波器。系統(tǒng)隨機混合輸入信息，但同時從最初不可見的信息中提取有價值的數(shù)據(jù)。儲層神經(jīng)網(wǎng)絡(luò)也使用類似的機制。為了產(chǎn)生混沌，應(yīng)用了一個簡單的邏輯映射方程，其中下一個值是根據(jù)前一個值計算的。該方程通常用于人口生物學(xué)，并作為計算混沌值序列的簡單方程的示例。這樣，簡單方程存儲處理器計算的無限隨機數(shù)集，網(wǎng)絡(luò)體系結(jié)構(gòu)使用它們并消耗更少的 RAM。

安德烈·維利奇科

這位科學(xué)家在 MNIST 數(shù)據(jù)庫中的手寫數(shù)字識別上測試了他的神經(jīng)網(wǎng)絡(luò)，該數(shù)據(jù)庫被認為是訓(xùn)練神經(jīng)網(wǎng)絡(luò)識別圖像的標(biāo)準(zhǔn)。該數(shù)據(jù)庫包含 70，000 多個手寫數(shù)字。其中6萬個用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)，另外10，000個用于網(wǎng)絡(luò)測試。網(wǎng)絡(luò)中的神經(jīng)元和混亂性越多，識別圖像的越好。網(wǎng)絡(luò)實現(xiàn)的最大精度為96.3%，而開發(fā)的體系結(jié)構(gòu)使用的 RAM 不超過 29 KB。此外，LogNNet 在 1-2kB 范圍內(nèi)使用非常小的 RAM 尺寸展示了有希望的結(jié)果。微型控制器，Atmega328，可以嵌入到智能門，甚至智能鞋墊，具有大致相同的內(nèi)存量。

“由于這一發(fā)展，物聯(lián)網(wǎng)的新機遇正在打開，因為任何配備低功耗微型控制器的設(shè)備都可以使用人工智能供電。這樣，就為智能處理外圍設(shè)備上的信息而打開一條路徑，而無需將數(shù)據(jù)發(fā)送到云服務(wù)，從而改進了智能家居等操作。這是彼得羅扎沃茨克州立大學(xué)的科學(xué)家積極研究的物聯(lián)網(wǎng)技術(shù)發(fā)展的重要貢獻。此外，這項研究還概述了研究混亂對人工智能影響的替代方法，”安德烈·維利奇科說。

責(zé)任編輯：PSY