跨尺度循環(huán)神經(jīng)網(wǎng)絡(luò)在電力負(fù)荷預(yù)測中的應(yīng)用

　　通過精確的電力負(fù)荷預(yù)測，智能電網(wǎng)可以提供比傳統(tǒng)電網(wǎng)更高效、可靠和環(huán)保的電力服務(wù)?，F(xiàn)實生活中，電力負(fù)荷數(shù)據(jù)往往存在著與歷史數(shù)據(jù)較高的時間相關(guān)性，而傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)卻很少關(guān)注它。近年來，循環(huán)神經(jīng)網(wǎng)絡(luò)（ Recurrent Neural network，RNN）由于可以很妤地捕獲在時間上距離很遠(yuǎn)的數(shù)據(jù)之間的相關(guān)性，因此在電力負(fù)荷預(yù)測中受到越來越多的關(guān)注。但是，由于RNN特有的自循環(huán)結(jié)構(gòu)，當(dāng)采用隨時間的反向傳播算法（ Back-propagation Through Time，BPTT）進(jìn)行網(wǎng)絡(luò)訓(xùn)練時，隨著網(wǎng)絡(luò)層數(shù)的増加，很容易發(fā)生梯度消失等問題，從而導(dǎo)致預(yù)測精度下降。目前已有多種解決梯度消失問題的RNN架構(gòu)，如長短期記憶網(wǎng)絡(luò)（ Long Short-term Memory，LSTM）和門控制單元（ Gated Recurrent Unit，GRU），但其復(fù)雜的內(nèi)部結(jié)構(gòu)會增訓(xùn)練時長。為了解決上述問題，文中首先對目前流行的各種RNN架構(gòu)進(jìn)行了研究和分析，其次結(jié)合最新提出的 Zoneout技術(shù)，設(shè)計了一種跨時間尺度的分模抉循環(huán)神經(jīng)網(wǎng)絡(luò)架枃，重點硏究了隱藏層模玦的隨杋更新策略，不僅有效解決了梯度消失問題，而且大幅度減少了待訓(xùn)練的網(wǎng)絡(luò)參數(shù)。基于基準(zhǔn)數(shù)據(jù)集和實際負(fù)載數(shù)據(jù)集的實驗結(jié)果表明，該結(jié)構(gòu)可以獲得比目前流行的RNN架構(gòu)更好的性能。