快速在線分布式對偶平均優(yōu)化算法

　　為提高分布式在線優(yōu)化算法的收斂速度，對底層網(wǎng)絡拓撲依次添邊，提出一種快速的一階分布式在線對偶平均優(yōu)化（ FODD）算法。首先，對于分布式在線優(yōu)化問題，運用添邊方法使所選的邊與網(wǎng)絡模型快速混合，進而建立數(shù)學模型并設計FODD算法對其進行優(yōu)化求解。其次，揭示了網(wǎng)絡拓撲和在線分布式對偶平均收斂速度之間的關(guān)系，通過提高底層拓撲網(wǎng)絡的代數(shù)連通度改進了Regret界，將在線分布式對偶平均（ODDA）算法從靜態(tài)網(wǎng)絡拓展到時變網(wǎng)絡拓撲上，并證明了FODD算法的收斂性，同時解析地給出了收斂速度。最后的數(shù)值仿真表明：和ODDA算法相比，所提出的FODD算法具有更快的收斂速度。

　　近年來，網(wǎng)絡和分布式計算的迅猛發(fā)展造就了從大型集成電路計算機到分布式網(wǎng)絡工作站的一個躍變，這使得分布式網(wǎng)絡受到了越來越多的重視，并在傳感器網(wǎng)絡、機器學習和智能電網(wǎng)等多個方面具有廣泛的應用前景。分布式網(wǎng)絡中的個體通過相互協(xié)調(diào)合作，可以有效解決各種大規(guī)模復雜現(xiàn)實問題，提高數(shù)據(jù)傳遞效率，增強網(wǎng)絡魯棒性?；诜植际诫S機梯度下降算法建立模型，不僅更好地利用了全局數(shù)據(jù)信息，而且提高了分布式隨機梯度下降算法的收斂速度和性能。提出了基于Push-sum的分布式對偶平均算法解決優(yōu)化問題，但并不能實時處理網(wǎng)絡數(shù)據(jù)流，造成網(wǎng)絡中時間和資源浪費，成本代價高。因為在實際應用中，分布式網(wǎng)絡一般都運行在動態(tài)環(huán)境下，如可再生能源系統(tǒng)的調(diào)度和傳感器觀測是時變的，其不確定性對整個網(wǎng)絡的成本函數(shù)造成重大影響，導致建立的優(yōu)化問題更加復雜。為了解決這一問題，本文研究基于在線的分布式優(yōu)化算法，在線分布式優(yōu)化算法不僅有效提高了算法的魯棒性，且在機器學習和網(wǎng)絡數(shù)據(jù)流實時處理方面有著重要應用隨。作為衡量在線優(yōu)化算法性能的一個重要指標，Regret界刻畫了隨時間推移的累積成本與最佳固定決策所產(chǎn)生的成奉之間的差值，因此在線優(yōu)化算法的優(yōu)劣可由Regret界的大小進行判斷。