編譯器作為重要的基礎(chǔ)軟件之一,在各個領(lǐng)域都有著非常廣泛的應(yīng)用。比如在嵌入式領(lǐng)域,如何在有限的空間內(nèi)豐富應(yīng)用的功能困擾著眾多的工程師,編譯器能夠輔助大幅度地降低應(yīng)用的體積,是工程師們不可或缺的好幫手。
再或是 HPC(High Performance Computing,高性能計算)領(lǐng)域聚焦于計算密集型的場景,像氣象預(yù)報、科學(xué)研究等,極致化的應(yīng)用性能是 HPC 領(lǐng)域不斷探索的課題之一,編譯器作為重要的性能貢獻(xiàn)者,在其中發(fā)揮著至關(guān)重要的作用。
鯤鵬 GCC 是搭載在鯤鵬平臺上的高性能編譯器,致力于為用戶提供高效的性能體驗,在編譯算法、指令流水、運算庫等方面進(jìn)行了深度的優(yōu)化。
了解鯤鵬 GCC 編譯器
鯤鵬 GCC 編譯器是基于開源 GCC 的高性能編譯器,鯤鵬 GCC 與鯤鵬芯片協(xié)同,通過編譯器技術(shù)充分發(fā)揮芯片的性能,提升鯤鵬硬件平臺上業(yè)務(wù)的性能體驗。除支持開源 GCC 通用功能之外,鯤鵬 GCC 主要對以下三個方面進(jìn)行了增強。
更豐富的編譯算法:提供豐富的優(yōu)化算法,如內(nèi)存布局優(yōu)化、結(jié)構(gòu)體拆分優(yōu)化、自動矢量化等,大幅提升指令和數(shù)據(jù)的吞吐量。
更靈活的指令流水:適配鯤鵬平臺的指令流水優(yōu)化,發(fā)揮鯤鵬架構(gòu)極致算力。
更高效的運算庫:深度優(yōu)化數(shù)學(xué)庫算法,提供豐富的矢量數(shù)學(xué)函數(shù)接口,大幅提升數(shù)學(xué)計算的效率。
當(dāng)前鯤鵬 GCC 編譯器已廣泛應(yīng)用于多種 HPC 典型場景,如氣象、安防、流體力學(xué)等,性能優(yōu)勢已經(jīng)逐步展露。其中,SPECCPU 2006 和 SPECCPU 2017 benchmark 跑分平均優(yōu)于開源 GCC 15% 以上,HPC 典型氣象應(yīng)用 WRF 優(yōu)于開源 GCC 10% 以上。
GCC 編譯器典型優(yōu)化場景及其優(yōu)化原理介紹
結(jié)構(gòu)體拆分優(yōu)化——大幅提升 Cache 命中率
SPECCPU 2006 benchmark 中有一款 libquantum 子項,它用于模擬量子計算機運行整數(shù)分解的 Shor 算法,該子項的一個瓶頸在于頻繁連續(xù)的內(nèi)存讀寫,簡化后的代碼示例如下圖左邊所示。
內(nèi)存布局優(yōu)化原理示意圖
從循環(huán)中可以看出在結(jié)構(gòu)體 node_t 中,data1 的使用率極高,而 data2 是不使用的。在源代碼中,數(shù)據(jù)是以結(jié)構(gòu)體數(shù)組的形式排布在內(nèi)存中,按照普通編譯器的編譯方式,每次從內(nèi)存中取數(shù)據(jù)時會將連續(xù)幾個結(jié)構(gòu)體數(shù)據(jù)加載到 cache 中,而 cache 包含的數(shù)據(jù)中有一半將不會參與運算,這會造成 cache 空間和帶寬的浪費與性能的損耗。
鯤鵬 GCC 編譯器會自動檢查循環(huán)中適合優(yōu)化的場景,通過將結(jié)構(gòu)體拆分成兩個結(jié)構(gòu)體的方式(如上圖右),將有效的數(shù)據(jù)緊湊排布起來,從而提高 cache 命中率和應(yīng)用性能。經(jīng)測試,此優(yōu)化可以給 libquantum 子項帶來80%的性能提升。除此之外,鯤鵬 GCC 編譯器還支持結(jié)構(gòu)體全展開、結(jié)構(gòu)體成員重排列等內(nèi)存布局優(yōu)化,讓應(yīng)用程序的性能如虎添翼。
指令流水優(yōu)化——更加適合鯤鵬的指令調(diào)度模型
通用的指令流水調(diào)度是基于各個指令的消耗和指令間的依賴關(guān)系合理地調(diào)度指令執(zhí)行的順序。在不進(jìn)行指令流水優(yōu)化時,6條指令依次順序執(zhí)行,假設(shè)每條指令需要兩個單位的執(zhí)行時間來計算得到結(jié)果,由于指令間存在數(shù)據(jù)依賴,在沒有計算得到 V1 值的條件下,無法進(jìn)行 V0 值的計算,由此導(dǎo)致了一個單位時間的等待,造成性能損失。
在使用指令流水優(yōu)化后,在 V 系列指令執(zhí)行等待的一個單位時間內(nèi)加入了沒有數(shù)據(jù)依賴的K系列指令的執(zhí)行,所有指令的執(zhí)行被合理地調(diào)度了起來,指令流水優(yōu)化提升了指令執(zhí)行的效率和程序運行的性能。
鯤鵬芯片基于 ARM 架構(gòu),對指令的消耗和指令間依賴關(guān)系的處理進(jìn)行了優(yōu)化和增強。鯤鵬 GCC 編譯器導(dǎo)入了基于鯤鵬芯片的指令模型,使得指令流水優(yōu)化的結(jié)果能夠更加適合鯤鵬芯片的執(zhí)行,提升鯤鵬軟件運行的性能。經(jīng)測試,該優(yōu)化可以給 SPEC CPU 2006benchmark 帶來2%的整體性能提升。
高性能運算庫——極致性能的數(shù)學(xué)庫和矢量數(shù)學(xué)函數(shù)
HPC 領(lǐng)域會運用到大量的數(shù)學(xué)函數(shù)計算,如 pow、sinf、log 等,也經(jīng)常需要對整個數(shù)組內(nèi)的數(shù)據(jù)做數(shù)學(xué)函數(shù)運算。如下圖舉例所示,左邊是需要對 a 數(shù)組的所有數(shù)據(jù)進(jìn)行 sinf 數(shù)學(xué)計算。
正常情況下會循環(huán)遍歷 a 數(shù)組依次對每個數(shù)據(jù)進(jìn)行 sinf 數(shù)學(xué)計算,無法獲得進(jìn)一步的性能提升空間。鯤鵬 GCC 編譯器能夠識別該場景,自動將 sinf 數(shù)學(xué)函數(shù)的調(diào)用轉(zhuǎn)化為矢量化 vec_sinf 的數(shù)學(xué)調(diào)用,能夠同時處理四個數(shù)據(jù)的 sinf 數(shù)學(xué)計算,并矢量化存取數(shù)據(jù),得到性能的提升。經(jīng)測試,該優(yōu)化可以給 HPC 領(lǐng)域 NEMO 應(yīng)用帶來6%的性能提升。
矢量數(shù)學(xué)函數(shù)優(yōu)化原理示意圖
本文我們主要介紹了鯤鵬 GCC 編譯器具有代表性的三方面優(yōu)化特性:前中端編譯算法優(yōu)化、后端指令優(yōu)化、運行時庫優(yōu)化。除此之外,還有軟件預(yù)取、循環(huán)優(yōu)化、分支預(yù)測、矢量化等編譯優(yōu)化特性的開發(fā)應(yīng)用。
編輯:jq
-
芯片
+關(guān)注
關(guān)注
450文章
49636瀏覽量
417196 -
GCC
+關(guān)注
關(guān)注
0文章
105瀏覽量
24781 -
編譯器
+關(guān)注
關(guān)注
1文章
1602瀏覽量
48896 -
HPC
+關(guān)注
關(guān)注
0文章
298瀏覽量
23537
原文標(biāo)題:【鯤鵬 DevKit 黑科技揭秘】┃鯤鵬GCC編譯器,釋放鯤鵬澎湃算力
文章出處:【微信號:gh_3a181fa836b6,微信公眾號:華為計算】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論