基于深度學習的可解釋特征準確預測混凝土抗壓強度
作者:
Ziyue Zeng(Key Laboratory of Advanced Civil Engineering Materials of Ministry of Education, Tongji University, Shanghai 201804, China)
GZheyu Zhu(School of Materials Science and Engineering, Tongji University, Shanghai 201804, China)
Wu Yao(School of Materials Science and Engineering, Tongji University, Shanghai 201804, China)
Zhenhua Wei(Department of Ocean Science and Engineering, Southern University of Science and Technology, Shenzhen 518055, China)
Xingquan Guan(Department of Civil and Environmental Engineering, University of California, Los Angeles, CA 90095, USA)
期刊:Construction and Building Materials
Q1
文章提出的工程問題是什么?
有什么實際工程價值?
混凝土年產量達數(shù)十億噸,是迄今為止人類歷史上使用最多的建筑材料。在建筑行業(yè),混凝土配合比和強度設計基于一系列試錯測試,以確定配合比對一個參數(shù)的屬性依賴性,這非常耗時且耗費人力/能源。眾所周知,混凝土強度在很大程度上取決于諸如水灰比 (w/b) 和水泥類型等因素,但其他因素(例如砂與骨料的比例)的影響混凝土的強度發(fā)展鮮為人知。
在世界各地的許多建筑工地,混凝土強度和施工質量在很大程度上取決于有經驗的人員的混合設計和利用設備在 28 天內測試配比混凝土的抗壓強度。這個過程可能會受到不同操作者的主觀判斷和操作,特別是考慮到環(huán)境條件可能會在這么長時間內發(fā)生變化。因此,需要一種能夠可靠地估計具有特定配合比的混凝土的抗壓強度的預測模型,以實現(xiàn)高通量混凝土配合比設計和施工質量的自動化無損檢測。
Q2
文章提出的科學問題是什么?
有什么新的學術貢獻?
近年來,深度學習——它是更廣泛的基于具有表示學習的人工神經網絡的機器學習方法家族的一部分——使得開發(fā)優(yōu)秀的預測模型成為可能。例如,深度學習已成功應用于預測房地產和股票市場的價格變化,其中多個因素充當了決定房地產和股票實時交易價格的變量。作為混凝土抗壓強度也受到各種因素的影響,可以想象它可以通過深度學習以類似的方式進行預測。
在這項研究中,提出了一種基于深度學習的“因素到強度”方法,該方法考慮了多個可解釋的特征,因此充分利用了混凝土工程師的先驗知識和現(xiàn)場配比信息,用于混凝土強度預測。不是使用成分含量作為模型輸入,而是使用九個關鍵特征(即水泥強度等級、水灰比、砂骨料比、膏骨料比、再生粗骨料替代比例、粉煤灰替代比例、硅灰替代比例、渣置換率和坍落度)被輸入到深度神經網絡用于數(shù)據(jù)訓練和分析。除了強度預測外,本研究還揭示了每個可解釋特征對混凝土強度發(fā)展的影響,以及各種特征在確定混凝土抗壓強度方面的相互作用。
Q3
文章提出的技術路線是什么?
有什么改進創(chuàng)新之處?
本文主要進行了基于深度學習的利用可解釋特征預測混凝土抗壓強度模型的構建,具體分以下部分:
① 數(shù)據(jù)集。
用于開發(fā)深度學習模型的數(shù)據(jù)集來自兩個資源——實驗和相關文獻。從文獻中收集的數(shù)據(jù)集包括多達 380 組混凝土混合物及其相應的 28 天抗壓強度。更具體地說,這些數(shù)據(jù)包括 121 組常規(guī)混凝土、105 組強度在 60 MPa 和 100 MPa 之間的高強度混凝土和 154 組再生骨料混凝土。從文獻中收集的數(shù)據(jù)集被分成兩個子數(shù)據(jù)集——80% 作為訓練集,20% 作為測試集——分別用于訓練和測試 CNN 模型。實驗收集的數(shù)據(jù)包括 16 組再生骨料混凝土配合比、16 組常規(guī)混凝土和 16 組從其他實驗室獲得的高強混凝土。這部分數(shù)據(jù)表示為實驗集,用于評估通過文獻數(shù)據(jù)訓練和測試的不同模型的穩(wěn)健性。
所有這些數(shù)據(jù)集包括十一種成分水泥強度等級、水泥含量、含水量、沙子含量、天然骨料含量、再生骨料含量、外加劑(粉煤灰、硅灰、礦渣)含量、28天固化后的坍落度和抗壓強度。選擇或組合九個可解釋的特征來預測混凝土抗壓強度。特征為水泥強度等級、水灰比、砂骨料比、漿料比、再生粗骨料替代比例,粉煤灰置換比例、硅灰置換比例、礦渣置換比例、坍落度。表 7列出了 11 種成分和 9 種可解釋特征的限制值,其中包括來自文獻和實驗的數(shù)據(jù)。只有當輸入?yún)?shù)的值落在最小和最大限制值之間時,模型才能有效地預測混凝土強度。
② 卷積神經網絡CNN
CNN 是一個典型的深度學習神經網絡,在過去的二十年中發(fā)展起來。特別是它起源于計算機視覺,在計算機視覺領域發(fā)揮了重要作用。最近,它被用于混凝土強度的預測,并取得了令人滿意的性能。因此,我們嘗試基于 CNN 預測混凝土強度。要建立一個CNN,首先要定義一個損失函數(shù)。在本文中,選擇了廣泛接受的平方誤差損失函數(shù)。對于具有c個類和N個訓練示例的多類問題,誤差由下式給出:
CNN算法采用多個卷積層和池化層來轉換數(shù)據(jù)特征。最后一個轉換是通過全連接進行的,采用傳統(tǒng)的分類模型。在卷積層,前一層的輸出與可學習的內核進行卷積,并通過激活函數(shù)形成卷積層的輸出。在數(shù)學上,它表示為:
每個卷積層都有多個內核k和偏置b,兩者都應用于輸入層以獲得通道數(shù)與內核數(shù)相對應的輸出層。這種布置的示意圖如圖1(a)所示。
圖 1:(a) 卷積和 (b) 池化過程的示意圖。
本文綜合考慮了特征數(shù)量和數(shù)據(jù)集的規(guī)模,增加了更多的隱藏層。CNN的結構被調整為包括一個輸入層、一個卷積層、兩個全連接層和一個傳統(tǒng)的輸出層。輸入層是3×3矩陣,由九個選定的可解釋特征組成。在卷積層中,放置了 128 個卷積核(k)和 128 個偏置(b),并采用 ReLU 函數(shù)作為激活函數(shù)。為了確定隱藏層中神經元的最佳數(shù)量,嘗試并排列了六個值(范圍從 4 到 128)以生成總共 36 個不同的模型,如表 8 所示。然后對這 36 個模型進行了 10 次重復訓練和測試,并使用以下方法測量其預測性能R2,如圖2 所示。第 28 個模型,在第一和第二全連接層中都有 64 個神經元,具有最高的R2在訓練集和測試集中。
圖2:(a) 訓練集和 (b) 測試集中的 36 個模型中的R 2個。灰線代表 10 次重復的訓練或測試結果,藍線代表 10 次重復的平均 R 2。
基于上述過程,最終確定的全連接層有 64 個神經元,并采用 ReLU 作為激活函數(shù)。對于僅包含一個神經元的輸出層,選擇 sigmoid 函數(shù)作為激活??偠灾?,卷積層提取了九個可解釋特征與混凝土抗壓強度之間的關系。然后兩個全連接層使關系更加明顯和穩(wěn)定。最后,輸出層從最后一個全連接層中捕獲64個值,綜合生成一個作為混凝土抗壓強度的預測值。CNN模型結構如圖3所示。
圖3:卷積神經網絡的結構(CG:水泥強度等級,W/B:水膠比;SR:砂比,P/A:漿料比,RA/A:再生粗骨料置換比,F(xiàn)/B : 粉煤灰置換比例, SF/B: 硅灰置換比例, S/B: 礦渣置換比例)。
基于上述內容,本文有以下創(chuàng)新點:
1.本文開發(fā)了一個具有九個可解釋特征作為輸入的CNN模型,用于預測各種混凝土的抗壓強度,包括普通混凝土、高強度混凝土和再生骨料混凝土。
2.本文從文獻中總共收集了 380 組數(shù)據(jù)來訓練 CNN 模型,另外還準備了 16 組再生骨料混凝土并進行了測試,以驗證訓練后的 CNN 的可靠性。基于訓練有素的 CNN 模型,進行了敏感性研究,以量化三個重要特征對混凝土抗壓強度的影響。
3.本研究報告的研究結果使混凝土工程師能夠在混凝土配方的可解釋特征方面使用他們的先驗知識,從而促進對施工現(xiàn)場成分對混凝土強度發(fā)展的影響的理解,并更好地服務于混凝土強度設計的實際施工需求。
Q4
文章是如何驗證和解決問題的?
為了可視化所開發(fā)的CNN模型的預測性能,CNN模型生成的預測混凝土抗壓強度的訓練和測試結果如圖4所示??v軸代表CNN模型預測的強度,橫軸是觀察到的強度??傮w而言,訓練和測試集中的數(shù)據(jù)點都聚集在對角線附近,表明該模型提供了對抗壓強度的準確估計。使用以下指標進一步測量 CNN 模型的預測性能。
圖4:(a) 訓練集和 (b) 測試集上的實際抗壓強度和基于 CNN 的抗壓強度之間的關系。
此外,均方根誤差(RMSE)、平均絕對百分比誤差 (MAPE) 和平均絕對誤差(MAE) 也使用方程式計算。分別為(12)、(13)和(14)。性能指標總結在表 9中。
除了這些宏觀指標外,還繪制了一個直方圖來顯示在訓練集和測試集上觀察到的相對誤差的分布,如圖 5所示. 訓練集的最大和最小相對誤差分別為 34.3% 和 0.04%,測試集分別為 21.06% 和 0.04%。同時,近 90% 的訓練集相對誤差小于 10%,測試集 85% 的相對誤差小于 10%。訓練集和測試集的相對誤差超過 20% 的比例分別僅為 1% 和 2%。所有這些觀察結果表明,CNN 模型能夠為三種類型的混凝土(包括普通混凝土、高強度混凝土和再生骨料混凝土)提供可靠和準確的抗壓強度估計。
圖5:訓練集和測試集的實際值和預測值的相對誤差直方圖。
為了進一步證明 CNN 的優(yōu)越性,將其與三種流行的機器學習模型(包括支持向量機(SVM)、人工神經網絡(ANN) 和自適應提升 (Adaboost))進行了比較,所有這些模型都是使用相同的訓練開發(fā)的和測試集。圖 6顯示了三種機器學習模型和 CNN 在測試集上的性能。顯然,CNN 生成的預測大多接近于觀察到的抗壓強度,并且 CNN 的決定系數(shù)(R 2)在四個模型中最高。這四個模型的誤差指標(圖 7)也證實了 CNN 的性能最好。
圖6:(a) SVM、(b) ANN、(c) Adaboost 和 (d) CNN預測的實際抗壓強度和抗壓強度之間的關系。
圖7:四個模型的指標比較。
為了證明采用可解釋特征的優(yōu)越性,使用不同的數(shù)據(jù)集開發(fā)了一個具有相同架構的額外 CNN 模型,其中僅包含無法解釋的特征。如圖8所示,具有無法解釋特征的 CNN 模型具有R20.881,低于具有可解釋特征的對應物(圖 5)。表 10比較了具有可解釋和不可解釋特征的 CNN 模型的誤差指標。在所有誤差指標中,具有可解釋特征的 CNN 模型的值低于具有無法解釋特征的模型,這表明可解釋特征更適合預測混凝土抗壓強度。
圖8:CNN使用 (a) 訓練集和 (b) 測試集的無法解釋的特征,計算實際抗壓強度和預測抗壓強度之間的關系。
Q5
文章有什么可取和不足之處?
邏輯結構:本文的outline呈現(xiàn)在下文:
1.Introduction
深度學習能夠開發(fā)良好的預測模型,將深度學習應用到混凝乳強度預測當中是可行的。
2. Materials and methods
2.1Materials
混凝土混合物由以下主要成分制備:I 型波特蘭水泥42.5 R (C)、自來水 (W)、人工洗滌的山砂 (S)、I 級粉煤灰 (F)、硅灰(SF)密度2.26g/cm 3,比表面積20m 2 /kg,水溶性SM型三聚氰胺減水劑(SP)。
2.2Concrete mix design, sample preparation, and testing
介紹了混凝土的配合比以及準備、制造、測試的過程
2.3Data set
用于開發(fā)深度學習模型的數(shù)據(jù)集來自兩個資源——實驗和相關文獻。從文獻中收集的數(shù)據(jù)集包括多達 380 組混凝土混合物及其相應的 28 天抗壓強度(見補充表 1詳情)。更具體地說,這些數(shù)據(jù)包括 121 組常規(guī)混凝土、105 組強度在 60 MPa 和 100 MPa 之間的高強度混凝土和 154 組再生骨料混凝土。從文獻中收集的數(shù)據(jù)集被分成兩個子數(shù)據(jù)集——80% 作為訓練集,20% 作為測試集——分別用于訓練和測試 CNN 模型。
2.4Convolutional neural network (CNN)
CNN 是一個典型的深度學習神經網絡,在過去的二十年中發(fā)展起來。特別是它起源于計算機視覺,在計算機視覺領域發(fā)揮了重要作用。最近,它被用于混凝土強度的預測,并取得了令人滿意的性能。
3. Results and discussion
3.1Predictive performance of the CNN model
為了可視化所開發(fā)的CNN模型的預測性能,CNN模型生成的預測混凝土抗壓強度的訓練和測試結果用圖表表示
3.2 Comparison between CNN and other method
為了進一步證明 CNN 的優(yōu)越性,將其與三種流行的機器學習模型(包括支持向量機(SVM)、人工神經網絡(ANN) 和自適應提升 (Adaboost))進行了比較,所有這些模型都是使用相同的訓練開發(fā)的和測試集。
3.3Performance comparison between results from explainable and unexplainable features
為了證明采用可解釋特征的優(yōu)越性,使用不同的數(shù)據(jù)集開發(fā)了一個具有相同架構的額外 CNN 模型,其中僅包含無法解釋的特征。
4. Conclusion
開發(fā)了一個具有九個可解釋特征作為輸入的CNN模型,用于預測各種混凝土的抗壓強度,包括普通混凝土、高強度混凝土和再生骨料混凝土。從文獻中總共收集了 380 組數(shù)據(jù)來訓練 CNN 模型,另外還準備了 16 組再生骨料混凝土并進行了測試,以驗證訓練后的 CNN 的可靠性?;谟柧氂兴氐?CNN 模型,進行了敏感性研究,以量化三個重要特征對混凝土抗壓強度的影響。
從上述內容可以看出,本文主要采用縱式結構,以研究展開的順序先后介紹了材料和方法,實驗和結果,總結幾部分內容,整體形成了“實驗-分析-綜合”的邏輯。
研究方法:本文在研究的過程中,使用了深度學習的方法,構建混凝土強度的預測模型,使用的是9個與混凝土強度相關的可解釋特征,并與其他預測方法進行比較,得到CNN的準確性更好,實驗結果更加嚴謹可靠。
并且,進行了多參數(shù)和單參數(shù)敏感性分析,以量化這些特征及其組合對混凝土強度發(fā)展的影響關系。
圖9:九個輸入特征與抗壓強度的關系。
圖10:受三個主要特征組合影響的混凝土抗壓強度等值線圖:(a)水膠比和砂比,(b)水膠比和漿料比,以及(c)砂比和漿料比;顏色條代表抗壓強度,單位為MPa。
圖表形式:本文的圖表形式集中于結果分析的過程中,圖片種類豐富,變現(xiàn)的規(guī)范具體,表格主要為實驗混凝土的具體數(shù)值的展示,準確豐富。
① 使用泰勒圖進行分析,圖中的標出點為模型結果,底部的點代表實際的樣本,左圖數(shù)據(jù)放射狀分布在中間區(qū)域,相比之下右圖集中于模型下半部分且呈現(xiàn)弧形,表明與樣本標準差較為接近。如圖8所示
文字表達:本文使用的專業(yè)詞匯較多,總體上表達都比較準確。
Q6
文章對自身的研究有什么啟發(fā)?
本文開發(fā)了一個具有九個可解釋特征作為輸入的CNN模型,用于預測各種混凝土的抗壓強度,包括普通混凝土、高強度混凝土和再生骨料混凝土。
將人工智能方法應到用混凝土質量預測和檢測的研究思路值得學習。
本文來自網絡或網友投稿,如有侵犯您的權益,我們將第一時間刪除。
審核編輯 黃昊宇
-
深度學習
+關注
關注
73文章
5471瀏覽量
120904 -
cnn
+關注
關注
3文章
350瀏覽量
22142
發(fā)布評論請先 登錄
相關推薦
評論