TVM的編譯流程是什么

作者：安平博，Xilinx高級工程師；來源：AI加速微信公眾號

Import：將tensorflow，onnx，pytorch等構(gòu)建的深度學習模型導(dǎo)入，轉(zhuǎn)化成TVM的中間層表示IR。

Lower：將高層IR表示轉(zhuǎn)化成低階TIR表示。

Codegen：內(nèi)存分配和硬件可執(zhí)行程序生成。

圖導(dǎo)入

通過一個tensorflow的reception網(wǎng)絡(luò)來熟悉編譯過程，其它深度學習框架也具有類似過程。從TVM官網(wǎng)可以下載tensorflow的編譯程序

https://tvm.apache.org/docs/tutorials/frontend/from_tensorflow.html#sphx...。主要代碼如下：

模型的輸入是一個后綴為pb的文件，它是神經(jīng)網(wǎng)絡(luò)模型圖的protobuf格式存儲文件。Pb是二進制形式，pbtxt是文本形式。Import_graph_def函數(shù)是導(dǎo)入pb，graph是tensorflow的圖結(jié)構(gòu)。

From_tensorflow是將tensorflow的圖結(jié)構(gòu)轉(zhuǎn)化成TVM的IR。這個函數(shù)在文件relay/frontend/tensorflow.py中。函數(shù)的調(diào)用關(guān)系為：

From_tensorflow -> GraphProto.from_tensorflow -> self._get_relay_func。

在get_relay_func中會遍歷每個tensorflow的節(jié)點，轉(zhuǎn)換成tvm的IR表示。重點關(guān)注_backtrack_construct函數(shù)。

繼續(xù)深入和算子轉(zhuǎn)化有關(guān)的函數(shù)調(diào)用為：_convert_operator -> convert_map。Convert_map中對應(yīng)了可支持tensorflow算子到tvm算子的轉(zhuǎn)換關(guān)系。

完成了tensorflow到TVM算子轉(zhuǎn)化后，我們就得到了一個IRModule。我們可以利用tvm的可視化來打印出轉(zhuǎn)化后的圖：

Main是主函數(shù)入口，在TVM中以函數(shù)形式反應(yīng)了tensorflow的圖結(jié)構(gòu)。函數(shù)的調(diào)用關(guān)系反應(yīng)了圖的依賴關(guān)系。

編譯

Python中主要代碼位于relay/build_module.py文件中，調(diào)用關(guān)系為build -> BuildModule -> build。在build中通過字典獲得了C++中的相應(yīng)函數(shù)。

這里不明白如何通過self.mod[“build”]得到C++中函數(shù)的。_BuildModule()是C++中注冊到環(huán)境中的一個函數(shù)。在src/relay/backend/build_module.cc中，

TVM_REGISTER_GLOBAL是將C++函數(shù)注冊到一個全局map中。當python加載編譯好的動態(tài)庫時，會自動查詢map中靜態(tài)注冊的函數(shù)，并添加到python模塊當中。

真正build操作位于RelayBuildModule類中，在其中有一個GetFunction函數(shù)，會通過名字查詢要使用的函數(shù)，打包成PackedFunc返回，這個函數(shù)可能和self.mod[“build”]有關(guān)。PackedFunc是TVM中提供的python的一個接口，任何函數(shù)都可以封裝成PackedFunc，并給python調(diào)用。更詳細介紹可看：https://hjchen2.github.io/2020/01/10/TVM-PackedFunc%E5%AE%9E%E7%8E%B0%E6...

繼續(xù)深入代碼，Build -> BuildRelay。這是編譯的主要代碼。其過程包括optimize，codgen。

Optimize就是執(zhí)行一些優(yōu)化passes，這些passes包括常數(shù)折疊，算符融合等。之后會調(diào)用graph_codegen->Codegen。Codegen中實現(xiàn)了內(nèi)存分配和硬件代碼生成。

審核編輯：何安