一種基于因果路徑的層次圖卷積注意力網(wǎng)絡(luò)

摘要

機(jī)電系統(tǒng)中的故障檢測對其可維護(hù)性和安全性至關(guān)重要。然而，系統(tǒng)監(jiān)測變量往往具有復(fù)雜的聯(lián)系，很難表征它們的關(guān)系并提取有效的特征。本文開發(fā)了一種基于因果路徑的層次圖卷積注意力網(wǎng)絡(luò)（HGCAN），以提高復(fù)雜機(jī)電系統(tǒng)中數(shù)據(jù)驅(qū)動故障檢測模型的性能和可解釋性。引入了一種混合因果發(fā)現(xiàn)算法來發(fā)現(xiàn)監(jiān)測變量之間的繼承因果關(guān)系。順序連接因果變量的因果路徑用作接收場，使用多尺度卷積來提取特征。基于分層注意力機(jī)制來聚合不同級別的特征，該機(jī)制考慮到不同的特征重要性來分配自適應(yīng)權(quán)重。為了驗(yàn)證所提出方法的有效性，使用實(shí)際高速列車制動系統(tǒng)的數(shù)據(jù)集驗(yàn)證。實(shí)驗(yàn)結(jié)果表明，所提出的方法有很好的性能改進(jìn)效果，對算法可解釋性的分析表明其有助于實(shí)際決策。

引言

復(fù)雜的機(jī)電一體化系統(tǒng)在現(xiàn)代技術(shù)中普遍存在，例如移動機(jī)械臂、隧道掘進(jìn)機(jī)和航空發(fā)動機(jī)。這些系統(tǒng)通過集成許多異構(gòu)組件來實(shí)現(xiàn)功能，如電氣、機(jī)械和液壓組件。與傳統(tǒng)系統(tǒng)相比，架構(gòu)和功能復(fù)雜性的增加不僅使模塊耦合關(guān)系復(fù)雜化，而且模糊了子系統(tǒng)的邊界。由于功能和時空依賴性的增加，這些系統(tǒng)可能會對風(fēng)險變得敏感。一些微小的故障可以通過故障傳播和故障級聯(lián)發(fā)展，引起連鎖反應(yīng)，危及整個系統(tǒng)。因此，準(zhǔn)確及時地檢測正在發(fā)生的故障至關(guān)重要，這可以有效提高系統(tǒng)的可維護(hù)性、安全性和可用性。

目前開發(fā)的故障檢測方法可分為三類，即基于物理的、基于專業(yè)知識的和數(shù)據(jù)驅(qū)動的。大多數(shù)基于物理和專業(yè)知識的模型都是建立在對以前故障記錄的經(jīng)驗(yàn)和分析的基礎(chǔ)上的。然而，這些模型的性能在很大程度上取決于目標(biāo)系統(tǒng)的可靠知識，這通常是非常昂貴和耗時的。大多數(shù)最先進(jìn)的數(shù)據(jù)驅(qū)動故障檢測方法直接對輸入特征和系統(tǒng)狀態(tài)之間的相關(guān)性進(jìn)行建模。這種建模過程模糊不清，因此可信度較低。此外，隨著監(jiān)測變量數(shù)量的增加，對其內(nèi)部關(guān)系進(jìn)行建模變得很有挑戰(zhàn)性。

最近，因果關(guān)系被視為獲得可解釋變量關(guān)系的一種很有前途的方法。具體地說，揭示和研究了變量的遺傳因果關(guān)系，為了解變量如何相互因果影響提供了客觀而穩(wěn)健的知識。然而，目前關(guān)于利用因果關(guān)系進(jìn)行系統(tǒng)故障檢測的研究非常有限。如何將因果關(guān)系有效地結(jié)合到故障檢測模型中并提高其能力仍然是一個問題。

圖卷積網(wǎng)絡(luò)（GCN）因其在處理空間結(jié)構(gòu)化數(shù)據(jù)方面的有效性而受到廣泛研究。這些模型利用具有非歐幾里得特征的數(shù)據(jù)進(jìn)行表示學(xué)習(xí)。特征提取不僅考慮了變量，還考慮了它們的空間關(guān)系，這使得其在許多領(lǐng)域都具有最優(yōu)的性能。使用GCN對空間知識進(jìn)行整合推動了故障檢測應(yīng)用的研究。

考慮到上述問題，本文提出了一種基于因果路徑的層次圖卷積注意力網(wǎng)絡(luò)（HGCAN），用于復(fù)雜機(jī)電系統(tǒng)的故障檢測。所開發(fā)的模型包括兩個主要步驟。第一步是構(gòu)建因果圖，對高維監(jiān)測數(shù)據(jù)進(jìn)行空間表征。傳統(tǒng)的因果發(fā)現(xiàn)依賴于領(lǐng)域知識或隨機(jī)控制軌跡（RCT）。但獲取相關(guān)領(lǐng)域知識具有挑戰(zhàn)性，且在復(fù)雜系統(tǒng)中進(jìn)行隨機(jī)對照試驗(yàn)是不切實(shí)際的。因此，數(shù)據(jù)驅(qū)動方法已成為一種替代選擇。針對上述問題，本工作將經(jīng)驗(yàn)約束與數(shù)據(jù)驅(qū)動的因果發(fā)現(xiàn)相結(jié)合，以獲得更現(xiàn)實(shí)、更穩(wěn)定的因果結(jié)構(gòu)。第二步是將因果圖輸入到開發(fā)的HGCAN模型中。與僅關(guān)注相鄰鄰居的傳統(tǒng)基于圖的模型不同，所開發(fā)的模型考慮了因果圖中祖先節(jié)點(diǎn)對其后代節(jié)點(diǎn)的影響。具體而言，模型在由順序連接的節(jié)點(diǎn)組成的因果路徑上進(jìn)行運(yùn)行，從而包含了有關(guān)系統(tǒng)的主要信息。與系統(tǒng)狀態(tài)變量相關(guān)的因果路徑作為輸入。多尺度卷積最初用于提取具有不同分辨率大小的各種特征。隨后，引入了一種分層注意力機(jī)制來融合來自不同卷積尺度和路徑的特征。該機(jī)制為提取的特征分配自適應(yīng)權(quán)重，并基于它們在上下文中各自的重要性對其進(jìn)行聚合。然后將生成的結(jié)果連接到全連接層，通過網(wǎng)絡(luò)輸出系統(tǒng)故障檢測結(jié)果。

為了驗(yàn)證所提出模型的有效性，對高速列車制動系統(tǒng)進(jìn)行了實(shí)例研究。與主流的數(shù)據(jù)驅(qū)動基準(zhǔn)測試相比，實(shí)驗(yàn)結(jié)果表明了該模型的優(yōu)越性。此外，對所提出的HGCAN的可解釋性分析也表明了其指導(dǎo)實(shí)際決策過程的潛力。

這項(xiàng)工作的主要貢獻(xiàn)包括：

（1）提出了HGCAN模型，該模型從因果路徑中提取特征，并利用層次注意力機(jī)制自適應(yīng)地聚合特征；

（2）引入了將專家知識與數(shù)據(jù)相結(jié)合的混合因果發(fā)現(xiàn)，用于表征監(jiān)測變量之間的空間關(guān)系；

（3）考慮到因果路徑在圖中可能數(shù)量較多，開發(fā)了特定的路徑篩選規(guī)則來過濾路徑信息，提高建模效率；

（4）對HST制動系統(tǒng)進(jìn)行了實(shí)際案例研究，以評估和驗(yàn)證模型的性能和可解釋性。

本文的其余部分組織如下。第2節(jié)說明了所提出的用于復(fù)雜機(jī)電系統(tǒng)故障檢測的HGCAN的詳細(xì)框架。第3節(jié)介紹了HST制動系統(tǒng)的案例研究，并與多種數(shù)據(jù)驅(qū)動模型進(jìn)行了比較。最后，在第4節(jié)中得出結(jié)論和未來的研究方向。

基于因果路徑的層次圖卷積注意力網(wǎng)絡(luò)

圖1描述了所提出的基于因果路徑的層次圖卷積注意力網(wǎng)絡(luò)（HGCAN）的框架，該網(wǎng)絡(luò)由兩個主要步驟組成，即用于表征監(jiān)測變量空間結(jié)構(gòu)的因果圖構(gòu)建和用于因果路徑特征提取的層次圖卷積注意力網(wǎng)絡(luò)構(gòu)建。首先，將經(jīng)驗(yàn)約束與因果發(fā)現(xiàn)算法相結(jié)合，以表征高維監(jiān)測數(shù)據(jù)的空間關(guān)系。然后，提取導(dǎo)致圖中表示系統(tǒng)狀態(tài)的節(jié)點(diǎn)的因果路徑，用于基于不同分辨率大小的卷積的特征提取。通過基于不同的重要性分配自適應(yīng)權(quán)重，將提取的特征與分層注意力機(jī)制融合。全連接層在最后階段產(chǎn)生系統(tǒng)檢測結(jié)果。所提出方法框架的細(xì)節(jié)如以下各節(jié)所示。

圖1 所提出的故障檢測方法的流程圖

基于混合因果發(fā)現(xiàn)的空間結(jié)構(gòu)挖掘

在機(jī)電一體化系統(tǒng)中的傳感器通常具有多種集成方式，這給提取有效的故障特征帶來了困難。本文將變量的空間結(jié)構(gòu)表示為用因果發(fā)現(xiàn)方法構(gòu)建的因果圖，揭示了所考慮變量之間的因果關(guān)系。故障的潛在產(chǎn)生和傳播可以實(shí)現(xiàn)可視化，有利于特征提取和模型解釋。獲得因果關(guān)系的傳統(tǒng)方法要么依賴于專家知識，要么依賴于隨機(jī)對照試驗(yàn)。然而，這些方法受到維度爆炸的影響，即難以分析復(fù)雜系統(tǒng)中高維變量的內(nèi)部結(jié)構(gòu)。為了獲得更真實(shí)的因果關(guān)系，本文引入了Peter-Clark（PC）算法與經(jīng)驗(yàn)約束相結(jié)合的混合因果發(fā)現(xiàn)。目前，關(guān)于在PC算法中添加經(jīng)驗(yàn)約束的研究有限，大多數(shù)使用該方法通過限制直接因果關(guān)系來約束搜索空間。在本文中，不僅考慮了局部關(guān)系，而且考慮了全局關(guān)系，用更全面的類型改進(jìn)了經(jīng)驗(yàn)約束。本工作中增加的經(jīng)驗(yàn)約束包括以下兩種類型：

（1）局部因果關(guān)系約束。若變量和變量之間存在（不存在）直接因果關(guān)系，則因果圖中節(jié)點(diǎn)和節(jié)點(diǎn)之間存在邊（無邊）；

（2）全局方向約束。變量是變量的祖先原因，則因果路徑只能在圖中從到。此處，因果關(guān)系包括直接因果路徑和間接因果路徑。

約束可以通過結(jié)合PC算法中的以下步驟來實(shí)現(xiàn)：

（1）邊緣修改。在因果骨架中，添加或刪除與局部因果約束對應(yīng)的邊；

（2）方向控制。當(dāng)將骨架擴(kuò)展到因果圖時，添加以下識別骨架中因果方向的規(guī)則：如果存在，則將修改為，其中是有向邊，表示因果關(guān)系的直接因果影響；是一個無向邊，意味著存在因果關(guān)系，但“因”沒有用可用數(shù)據(jù)確定；表示任意變量集。如果和在骨架中相鄰，則設(shè)定。

其他規(guī)則與PC算法中的規(guī)則相同。

（3）結(jié)構(gòu)驗(yàn)證。因果圖生成后，驗(yàn)證最終圖中是否滿足所有方向約束。如果不滿足方向約束，則添加最相關(guān)的邊，或調(diào)整PC算法中的參數(shù)以進(jìn)行新的搜索。

通過上述過程，可以獲得用因果關(guān)系表示的完全部分有向無環(huán)圖（CPDAG）。圖2展示了一個典型的CPDAG示例。

圖2 因果CPDAG示例

基于因果路徑的層次卷積注意力

在復(fù)雜系統(tǒng)的圖中可以有許多因果路徑。某些不包括目標(biāo)變量的路徑可能不會導(dǎo)致系統(tǒng)的故障。即只有通向表示系統(tǒng)狀態(tài)的節(jié)點(diǎn)的路徑才被考慮用于建模。以下步驟描述了詳細(xì)的過程，其流程圖如圖3所示。圖4描述了所提出的HGCAN的詳細(xì)結(jié)構(gòu)。

圖3 基于因果路徑的層次卷積注意力的流程圖

圖4 所提出的HGCAN的詳細(xì)結(jié)構(gòu)

（1）因果路徑集構(gòu)造。首先提取從一個沒有祖先節(jié)點(diǎn)的根節(jié)點(diǎn)到表示系統(tǒng)狀態(tài)的節(jié)點(diǎn)的父節(jié)點(diǎn)的因果路徑（注意，不包括在路徑中）。將表示為圖的第個因果路徑，其中是中第個節(jié)點(diǎn)的特征值，是的節(jié)點(diǎn)數(shù)。

（2）路徑多尺度卷積。為了從因果路徑中提取不同的特征，首先乘以可學(xué)習(xí)參數(shù)，將輸入路徑特征投影到維的高維空間中。然后，采用多尺度卷積提取不同感受野大小的因果路徑信息。通過提取具有不同分辨率的特征，有助于提高模型性能。

（3）具有層次注意機(jī)制的特征聚合。在使用L層卷積進(jìn)行特征提取后，在最后一層引入注意力機(jī)制來測量不同的特征重要性，并將其與動態(tài)權(quán)重融合。該機(jī)制由兩個層次構(gòu)成。即：路徑的不同卷積尺度上的注意力，以及不同路徑上的注意力。

（4）FC層的故障檢測結(jié)果。最后，采用具有非線性激活函數(shù)的全連接層作為分類器，將提取的因果圖表示映射到系統(tǒng)狀態(tài)標(biāo)簽。具體地說，在基于層次注意力的聚合之后的特征向量被饋送到全連接層中。在網(wǎng)絡(luò)中堆疊隱藏層和輸出層以產(chǎn)生故障檢測結(jié)果。

補(bǔ)充：路徑篩選規(guī)則

在某些情況下，因果路徑可能很多，這會對建模效率產(chǎn)生負(fù)面影響，并可能導(dǎo)致過度擬合。此外，在最先進(jìn)的研究中指出，葉節(jié)點(diǎn)和主路徑可能包含主要信息。這一發(fā)現(xiàn)也可以基于沿著路徑的信息傳播來證明，即后一個節(jié)點(diǎn)可以包含來自祖先節(jié)點(diǎn)的信息。因此，為了減少因果路徑，并關(guān)注主路徑和葉節(jié)點(diǎn)的特征，開發(fā)了一些路徑篩選規(guī)則如下。

（1）刪除包容性關(guān)系。如果路徑中的所有節(jié)點(diǎn)都順序地包含在中，則定義了和之間的包容關(guān)系。由于包含的因果流，為了方便，我們刪除了路徑。例如，在圖2中，包括在中，因此，刪除了。

（2）從根節(jié)點(diǎn)刪除。根節(jié)點(diǎn)被定義為沒有祖先節(jié)點(diǎn)的節(jié)點(diǎn)，該節(jié)點(diǎn)可能信息量較小。為了提高建模效率，篩選規(guī)則為：從一個根節(jié)點(diǎn)開始，如果兩條路徑和（）的連續(xù)個節(jié)點(diǎn)相同，則刪除和的初始節(jié)點(diǎn)，并生成新的路徑和。圖5（a）展示了從的根節(jié)點(diǎn)中刪除的示例。

（3）葉節(jié)點(diǎn)保護(hù)。葉節(jié)點(diǎn)是沒有派生節(jié)點(diǎn)的節(jié)點(diǎn)，當(dāng)它們接收祖先節(jié)點(diǎn)信息時，派生節(jié)點(diǎn)可以提供更多信息。篩選規(guī)則為：從葉節(jié)點(diǎn)反向開始，如果和（）的連續(xù)個節(jié)點(diǎn)相同，則路徑和將通過只保留最后一個個節(jié)點(diǎn)作為新的路徑來融合。圖5（b）顯示了從的葉節(jié)點(diǎn)中刪除的示例。

圖5 一些路徑篩選規(guī)則的示例

案例驗(yàn)證

在本節(jié)中，利用高速列車（HST）制動系統(tǒng)的真實(shí)數(shù)據(jù)進(jìn)行故障檢測，以驗(yàn)證所提出的方法對目標(biāo)問題的有效性和可解釋性。

數(shù)據(jù)描述

HST制動系統(tǒng)是一個復(fù)雜的機(jī)電一體化系統(tǒng)，由許多氣動、電氣和機(jī)械子系統(tǒng)組成?？紤]到制動系統(tǒng)具有高速減速的重要功能，其是高速列車中最關(guān)鍵系統(tǒng)之一。圖6描述了所考慮的雙管HST制動系統(tǒng)的簡化示意圖。即使制動系統(tǒng)現(xiàn)在高度可靠，故障仍可能發(fā)生，其后果可能是災(zāi)難性的。因此，早期故障檢測至關(guān)重要。

圖6 HST制動系統(tǒng)示意圖

在這項(xiàng)工作中，使用了一個關(guān)于HST制動系統(tǒng)一年運(yùn)行的真實(shí)數(shù)據(jù)集來驗(yàn)證所提出方法的有效性。原始數(shù)據(jù)集中總共記錄了43個變量，包括速度、電壓、電流、溫度、制動模式等。不同類型的傳感器會導(dǎo)致數(shù)據(jù)集的不一致性。具體來說，有21個連續(xù)的數(shù)值變量和22個離散的分類變量。22個離散變量可以進(jìn)一步劃分為20個非層次變量和2個層次變量。

因果圖構(gòu)造

利用預(yù)處理的數(shù)據(jù)集，通過將經(jīng)驗(yàn)約束與PC算法相結(jié)合的混合因果發(fā)現(xiàn)，可以獲得制動系統(tǒng)的因果圖。具體來說，最初的38+1變量首先分為三類：客觀環(huán)境變量（如外部溫度、運(yùn)行持續(xù)時間），人為因素變量（例如制動模式、訪問級別）和系統(tǒng)物理屬性變量（例如線路電流、線路電壓、懸架壓力）。根據(jù)實(shí)踐經(jīng)驗(yàn)，客觀環(huán)境和人為因素變量是系統(tǒng)物理屬性的祖先節(jié)點(diǎn)，客觀環(huán)境變量與人為因素變量之間的直接因果關(guān)系有限?；谇笆鏊惴ǎ@得的因果圖如圖7所示。

圖7 HST制動系統(tǒng)的因果圖

比較研究

為了驗(yàn)證所提出方法的有效性，采用了一組流行的數(shù)據(jù)驅(qū)動方法進(jìn)行基準(zhǔn)測試，其中包括傳統(tǒng)的數(shù)據(jù)驅(qū)動法，即基于徑向基核函數(shù)的成本敏感SVM（CS-SVM），包括ANN、具有全連接層的CNN（CNN-FC）、1D-ResNet和多尺度CNN（MsCNN）的神經(jīng)網(wǎng)絡(luò)，以及最近所提出的基于圖的模型，如GCN和多端圖注意力網(wǎng)絡(luò)（MHGAT）。

采用兩個指標(biāo)來衡量不同方法在這些條件下的性能，即F1-measure指標(biāo)和Matthews相關(guān)系數(shù)（MCC）得分：

其中，,

表1報告了比較研究的實(shí)驗(yàn)結(jié)果。從表中可以看出，所提出的HGCAN方法在F1-measure和MCC得分方面都優(yōu)于基準(zhǔn)方法，平均分別提高了6.85%和6.05%。這可以歸因于高級表示學(xué)習(xí)策略，其中因果路徑可以提供關(guān)于故障因果關(guān)系的有效信息。此外，所提出的HGCAN優(yōu)于其他基于圖的方法。GCN和MHGAT是基于鄰居節(jié)點(diǎn)特征的集成構(gòu)建的，只考慮局部鄰居進(jìn)行特征提取，而忽略了沿因果路徑流動的長程信息。此外，HGCAN還提高了效率，因?yàn)樗炔恍枰凶兞?，也不需要整個圖結(jié)構(gòu)來建模。

表1 HST制動系統(tǒng)的故障檢測結(jié)果

模型可解釋性

所開發(fā)的HGCAN也帶來了令人滿意的故障發(fā)展邏輯的可解釋性。因果路徑聚合的注意力系數(shù)可以基于所建立的模型來計(jì)算，從而可以量化每個因果路徑的貢獻(xiàn)，以反映其在影響系統(tǒng)狀態(tài)中的重要性，從而能夠識別關(guān)鍵路徑。此外，由于故障因果關(guān)系編碼在因果路徑中，它們反過來可以幫助定位故障原因，并分析在系統(tǒng)監(jiān)控中發(fā)揮關(guān)鍵作用的組件，從而促進(jìn)維護(hù)決策。

如圖8所示，HST制動系統(tǒng)數(shù)據(jù)集的分析表明，路徑、和在所有已識別的路徑中表現(xiàn)出最高的權(quán)重。因此，這些特定路徑被認(rèn)為是HST制動系統(tǒng)內(nèi)潛在故障發(fā)生的關(guān)鍵因素。值得注意的是，變量是一個關(guān)鍵因素，有可能直接導(dǎo)致故障的發(fā)生，因?yàn)樗腥龡l路徑在到達(dá)最終系統(tǒng)狀態(tài)變量之前都會向其匯聚。通過研究這些變量的物理含義，發(fā)現(xiàn)橙色和綠色的路徑與HST運(yùn)行模式的不同設(shè)置導(dǎo)致的故障有關(guān)。另一方面，紅色路徑與電機(jī)牽引相關(guān)的故障有關(guān)。所有三條路徑都指向一組變量，即和，負(fù)責(zé)測量和控制牽引力和制動力的分配。專家經(jīng)驗(yàn)也驗(yàn)證了這些途徑和變量在影響系統(tǒng)狀態(tài)中的關(guān)鍵性。

圖8 已確定的具有最大關(guān)注值的關(guān)鍵路徑

結(jié)論

本文提出了一個名為HGCAN的復(fù)雜機(jī)電系統(tǒng)故障檢測框架。首先，使用混合因果發(fā)現(xiàn)算法來表征高維變量的關(guān)系，該算法將先驗(yàn)約束和PC算法相結(jié)合。然后，利用圖中導(dǎo)致系統(tǒng)狀態(tài)變量的因果路徑進(jìn)行故障特征提取?？紤]到不同的特征重要性，使用分層注意力機(jī)制對提取的特征進(jìn)行融合，以實(shí)現(xiàn)規(guī)模和路徑級別的自適應(yīng)聚合。該方法使用HST制動系統(tǒng)的實(shí)際數(shù)據(jù)集進(jìn)行了驗(yàn)證。對比實(shí)驗(yàn)表明，該模型具有良好的性能。還探討了HGCAN在實(shí)際故障檢測中的可解釋性，表明所提出的模型可以幫助識別關(guān)鍵路徑和變量，從而有助于后續(xù)維護(hù)。

目前，本文中將因果關(guān)系定義為連接關(guān)系是否存在。未來的工作將考慮檢查可變連接的強(qiáng)度，并研究節(jié)點(diǎn)聚合策略。