SemiDrive X9 AI 開發環境搭建

SemiDrive x9 AI 開發環境搭建分開發機端,開發板端。

主要的工具是SDNN, 它是一個基於開源編譯器框架TVM的端到端的AI編譯器框架, Semidrive對TVM編譯器框架做了適配,主要特性如下:

支持操作系統: Android 、 Linux 和 QNX ;

支持推理後端: CPU 、 GPU 、 SlimAI 和 AIPU ;

支持開發及部署語言: C++ 和 Python ;

支持 異構 和 同構 模型部署模式;

支持 多進程 和 多線程 應用的開發;

以 ubuntu 18.04 為例,安裝 開發機端環境。

1.安裝docker

$ sudo apt-get update
$ sudo apt install apt-transport-https ca-certificates curl software-properties-common
$ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
$ sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu focal stable"
$ sudo apt-get update
$ sudo apt-get install docker-ce docker-ce-cli containerd.io​

2. 從官網下載docker鏡像後解壓鏡像

$ tar zxvf sdnn_docker_{版本號}.tgz
$ ls *.img
sdnn_docker_{版本號}.img

3. 加載鏡像

$ docker load -i sdnn_docker_{版本號}.img
$ docker images
REPOSITORY TAG IMAGE ID CREATED SIZE

sdnn v3.1.0 756501bfa3c0 17 hours ago 24.3GB

4. 創建SDNN 開發容器

$ docker run -it --rm \
--name ${容器名} \
-v ${掛載開發機中的目錄}:${容器內所映射的目錄} \
-e ${容器中的環境變量} \
${鏡像名}:${標籤名} /bin/bash
$ docker run -it --name sdnn_$USER -v ${PWD}:$HOME sdnn:v3.1.0 /bin/bash

5. 進入容器安裝SDNN

$ pip install sdnn-{sdnn版本號}-{python工具版本號}-{主機平台}.whl

結果如下:

開發板端:

1. 使用 sdnn_deploy.run 部署包,將其放到板子上任意路徑,執行下述命令,可實現庫的自動部署:

$ sh ./sdnn_deploy.run

2. 上述操作後,libtvm_runtime.so 、 opencv 和 libc++_shared 庫都將自動部署到 /vendor/lib64 目錄。

環境搭建完成!

★博文內容均由個人提供,與平台無關,如有違法或侵權,請與網站管理員聯繫。

★文明上網,請理性發言。內容一周內被舉報5次,發文人進小黑屋喔~

評論