SemiDrive x9 AI 開發(fā)環(huán)境搭建分開發(fā)機(jī)端,開發(fā)板端。
主要的工具是SDNN, 它是一個(gè)基于開源編譯器框架TVM的端到端的AI編譯器框架, Semidrive對TVM編譯器框架做了適配,主要特性如下:
支持操作系統(tǒng):Android 、 Linux 和 QNX ;
支持推理后端:CPU 、 GPU 、 SlimAI 和 AIPU ;
支持 異構(gòu) 和 同構(gòu) 模型部署模式;
支持 多進(jìn)程 和 多線程 應(yīng)用的開發(fā);
以 ubuntu 18.04 為例,安裝 開發(fā)機(jī)端環(huán)境。
1.安裝docker
$ sudo apt-get update
$ sudo apt install apt-transport-https ca-certificates curl software-properties-common
$ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
$ sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu focal stable"
$ sudo apt-get update
$ sudo apt-get install docker-ce docker-ce-cli containerd.io
2. 從官網(wǎng)下載docker鏡像后解壓鏡像
$ tar zxvf sdnn_docker_{版本號}.tgz
$ ls *.img
sdnn_docker_{版本號}.img
3. 加載鏡像
$ docker load -i sdnn_docker_{版本號}.img
$ docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
sdnn v3.1.0 756501bfa3c0 17 hours ago 24.3GB
4. 創(chuàng)建SDNN 開發(fā)容器
$ docker run -it --rm \
--name ${容器名} \
-v ${掛載開發(fā)機(jī)中的目錄}:${容器內(nèi)所映射的目錄} \
-e ${容器中的環(huán)境變量} \
${鏡像名}:${標(biāo)簽名} /bin/bash
$ docker run -it --name sdnn_$USER -v ${PWD}:$HOME sdnn:v3.1.0 /bin/bash
5. 進(jìn)入容器安裝SDNN
$ pip install sdnn-{sdnn版本號}-{python工具版本號}-{主機(jī)平臺(tái)}.whl
結(jié)果如下:
開發(fā)板端:
1. 使用 sdnn_deploy.run 部署包,將其放到板子上任意路徑,執(zhí)行下述命令,可實(shí)現(xiàn)庫的自動(dòng)部署:
$ sh ./sdnn_deploy.run
2. 上述操作后,libtvm_runtime.so 、 opencv 和 libc++_shared 庫都將自動(dòng)部署到 /vendor/lib64 目錄。
環(huán)境搭建完成!
登錄大大通,提問/評論,獲取技術(shù)文檔等更多資訊
-
AI
+關(guān)注
關(guān)注
87文章
29806瀏覽量
268103 -
開發(fā)環(huán)境
+關(guān)注
關(guān)注
1文章
218瀏覽量
16567 -
芯馳科技
+關(guān)注
關(guān)注
2文章
155瀏覽量
6347
發(fā)布評論請先 登錄
相關(guān)推薦
評論