【自適應(yīng)計(jì)算在機(jī)器人領(lǐng)域的應(yīng)用】連載七：用ROS 2在機(jī)器人內(nèi)部集成自適應(yīng)計(jì)算的新架構(gòu)

作者： Víctor Mayoral-Vilches 和 Giulio Corradi，賽靈思公司

連載七：用ROS 2 在機(jī)器人內(nèi)部集成自適應(yīng)計(jì)算的新架構(gòu)

圖 1 所示的架構(gòu)將硬件加速集成到 ROS 2 中，同時(shí)堅(jiān)持以機(jī)器人專家為中心的理念。不要求熟悉非 ROS 工具（如 Vivado 或 Vitis 工具），或熟悉 OpenEmbedded 或 Yocto。此外，該架構(gòu)構(gòu)建在開放的標(biāo)準(zhǔn)之上，以 C++ 和 OpenCL 作為生成加速內(nèi)核的目標(biāo)計(jì)算語言。通過這種方法，機(jī)器人領(lǐng)域的大多數(shù)用戶都可以受益于硬件加速的功能。該架構(gòu)基于三大支柱構(gòu)建：ROS 構(gòu)建系統(tǒng) （ament）、ROS 元構(gòu)建工具 （colcon） 以及嵌入式固件 （firmware）。

圖 1： ROS 2 硬件加速工作組 （HAWG） 初始架構(gòu)

第一個(gè)支柱是 ament ROS 2 構(gòu)建系統(tǒng)的擴(kuò)展。ament_vitis（1）通過一系列 CMake 宏和實(shí)用工具實(shí)現(xiàn)這些擴(kuò)展，將 Vitis 工具包含到 ROS 2 生態(tài)系統(tǒng)內(nèi)。提議的架構(gòu)是一種適用于幾乎任何加速技術(shù)的架構(gòu)，即 ament_acceleration 抽象層從框架和軟件平臺（如 Vitis 工具）抽象構(gòu)建系統(tǒng)擴(kuò)展，為 FPGA 和 GPU 提供支持。作為替代加速技術(shù)的例子，圖 10 里包含了 ament_rocm，展現(xiàn)未來集成 ROCm5（2）軟件開發(fā)平臺的潛力，以實(shí)現(xiàn) HPC/超大規(guī)模級 GPU 計(jì)算。在后臺，ament_acceleration 的每次專門優(yōu)化都需要對應(yīng)的庫。例如，ament_vitis 依靠 Vitis 和賽靈思運(yùn)行時(shí) （XRT） 庫（3）。后者是一種開源的標(biāo)準(zhǔn)化軟件接口，用于簡化應(yīng)用代碼和加速內(nèi)核之間的通信。Vitis 工具和 XRT 完全對機(jī)器人工程師隱藏，不僅簡化了加速內(nèi)核的創(chuàng)建，而且還幫助機(jī)器人專家專注于計(jì)算圖像的改進(jìn)。通過提供猶如任何其他 ROS 封裝的體驗(yàn)，以這種方式實(shí)現(xiàn)簡化加速內(nèi)核創(chuàng)建工作的目標(biāo)。圖 2 所示的代碼列表 1 展示的是使用 ament_vitis ROS 封裝的示例。宏 vitis_acceleration_kernel 提供靈活性，允許用戶無縫地?cái)U(kuò)展CMakeLists.txt 并選擇加速 ROS 封裝的哪些部分。

圖 2： 代碼列表 1

第二個(gè)支柱擴(kuò)展“colcon”ROS 元構(gòu)建工具，以集成硬件加速專用流。

第三個(gè)支柱是嵌入式固件。表達(dá)為 acceleration_firmware（1），第三個(gè)支柱旨在為硬件加速平臺提供固件專用工件，這樣就能針對這些工件編譯加速內(nèi)核，從而簡化流程并保持ROS 開發(fā)流程。提出的架構(gòu)在構(gòu)建時(shí)特意考慮到各種硬件加速平臺，可以支持邊緣（嵌入式）器件，以及適用于工作站、數(shù)據(jù)中心乃至云硬件加速的 PCIe? 加速器。平臺選擇通過在 ROS 工作空間資源（在 src/ 下）中加入特定的 acceleration_firmware 庫（acceleration_firmware_xilinx）來實(shí)現(xiàn)。構(gòu)建過程中的平臺選擇（本例中為賽靈思 Zynq UltraScale+? MPSoC ZCU102 平臺）通過 colcon mixins 來實(shí)現(xiàn)。通過這種方式，colcon build -build- base=build-zcu102 -install-base=install-zcu102 -merge-install -mixin zcu102 將為 ZCU102 硬件平臺構(gòu)建完整的 ROS 2 工作空間，交叉編譯 ROS 封裝，在運(yùn)行中視情況為 ZCU102 平臺生成內(nèi)核。所有中間步驟完全實(shí)現(xiàn)自動化，而且產(chǎn)生的 install-zcu102 目錄能直接在硬件中使用。

為了容納中間工件并在嵌入式流程中提供靈活性，acceleration_firmware 在 ROS 2 工作空間中引入新的子文件夾結(jié)構(gòu)，即 《ros2-workspace-path》/acceleration/firmware/《platform》 路徑。

圖 3 是 acceleration_examples ROS 2 封裝構(gòu)建完成后，該架構(gòu)的工作方式預(yù)演。流程從 colcon 構(gòu)建 ROS 2 工作空間開始（圖 3，插圖編號 1）。無需使用特殊的旗標(biāo)，只是對應(yīng)的封裝和硬件加速工作組 （HAWG） 基礎(chǔ)設(shè)施必須位于工作空間的 src 目錄內(nèi)。colcon 將為開發(fā)工作站架構(gòu)構(gòu)建每一個(gè)封裝。這其中包含 ament_vitis Cmake 宏（圖 3，插圖編號 1），該宏將一系列 CMake 擴(kuò)展部署到產(chǎn)生的本地 ROS 2 疊加工作空間中。

這些擴(kuò)展與本地 Vitis 安裝（1）（圖 3，插圖編號 3）相連，對ROS 2 包直接提供其功能。換句話說，ROS 2 包能從它們的 CMakeLists.txt 文件使用這些宏，并且使用賽靈思的硬件加速工具。

固件包（如 acceleration_firmware_kv260）是該架構(gòu)的重要組件。切換加速器時(shí)，只需用適用于新的目標(biāo)加速器的包替換這個(gè)包即可。任意一個(gè)有效的固件包都應(yīng)包含固件工件和 CMake 邏輯，以便在 ROS 疊加工作空間中正確地為實(shí)現(xiàn)硬件加速目的而解包、部署和配置固件（圖 3，插圖編號 4）。此外，有效的固件包應(yīng)包含根文件系統(tǒng)、根文件系統(tǒng)的 sysroot（用于交叉編譯）或在構(gòu)建時(shí)自動生成 ROS 2 mixins（2） 的模板，以簡化嵌入式流程和其他方面。如需進(jìn)一步詳細(xì)了解，請參閱任何官方固件包的完整工件列表。

總之，首先調(diào)用 colcon 構(gòu)建（圖 3，插圖編號 3），讓 ROS 2 工作空間為硬件加速做好準(zhǔn)備并將文件部署在本地疊加內(nèi)（圖 3，插圖編號 2、3 和 4）。在此之后，從本地疊加第二次調(diào)用帶 -mixin《target-board》 旗標(biāo)的 colcon 構(gòu)建，將進(jìn)行交叉編譯（圖 3，插圖編號 51）并根據(jù)需要為目標(biāo)加速器硬件生成加速器（圖 3，插圖編號 52）。從這一點(diǎn)開始，colcon_acceleration 包有助于其余流程的進(jìn)一步自動化。這部分已超出本文所要探討的內(nèi)容。

下列三種不同的電路開發(fā)板已經(jīng)獲得基本支持：賽靈思 Zynq UltraScale+ MPSoC ZCU102，ZCU104 以及 Kria? KV260 視覺 AI 入門套件。

圖 3：HAWG 初始架構(gòu)內(nèi) ROS 2 包之間的交互走查

要點(diǎn)總結(jié)：在既往研究的啟發(fā)下，當(dāng)前研究提出一種以 ROS 2 為中心的架構(gòu)，讓硬件加速在 ROS 生態(tài)系統(tǒng)中發(fā)揮關(guān)鍵作用。圖 12 體現(xiàn)的提議被模塊化成不同的 ROS 2 包，它們的構(gòu)建方式與任何其他 ROS 包一樣。這種架構(gòu)適用于各種平臺（瞄準(zhǔn)邊緣、工作站、數(shù)據(jù)中心或云提供支持），也適用于各種技術(shù)（支持 FPGA 和 GPU ），并且只需提供對應(yīng)的專業(yè) acceleration_firmware，就能輕松地將其移植到其他電路板。

表 4 總結(jié)了這里提出的方法與以前的工作的比較。

表 4：ROS 與 ROS 2 各類自適應(yīng)計(jì)算集成方法比較表（含賽靈思 ament_vitis）