SOLA示例程序

概述

SOLA 示例程序是单独发布的代码包,可以通过以下链接获取:

https://moffett-oss-bucket01.oss-cn-shenzhen.aliyuncs.com/sola-demo/sola-demo-3.4.0.tar.gz

这个项目包含了SOLA Runtime API的示例代码,以及一些模型部署的demo,以帮助用户快速上手SOLA Runtime API。

目录与文件说明

├── common                  # 公用文件
├── data                    # 运行一些基础示例所需要的模型文件
├── inference               # 一个简单的通用推理框架示例
├── introduction            # SOLA Runtime API的基本用法介绍
├── models                  # SOLA Runtime API模型部署的demo
├── utils                   # SOLA Runtime API的一些实用工具
├── build.sh                # 编译脚本
├── install_dependencies.sh # 安装系统依赖脚本
├── prepare.sh              # 下载python环境依赖和系统依赖
├── CHANGELOG.md            # 更变日志
├── README.md               # 说明文档
├── LICENSE                 # 版权信息
└── VERSION                 # 版本信息

使用说明

系统要求

我们在以下系统版本和内核版本上测试通过:

系统版本/内核版本
Kernel

Ubuntu 18.04

5.4

Debian 10

5.4

Alios 8.6

4.19

Redhat 8.3

4.18

注意:当前系统语言环境必须为英文,否则会执行错误,可以执行以下命令将当前shell环境改为英文:

export LANG=en_US.UTF-8
export LC_ALL=en_US.UTF-8
export LANGUAGE=en_US.UTF-8

软件依赖

基础系统依赖库(不包含模型部署示例的依赖)

  • wget

  • tar

  • libgl1

  • cmake >= 3.10

  • g++ >= 7.x

  • gflags >= 2.2

  • SOLA Toolkit == 3.4.0

请自行安装以上依赖,或者执行以下脚本安装:

sudo sh install_dependencies.sh

python 环境依赖

我们提供两种方式创建python环境,一种是一键安装,一种是手动创建,推荐使用第一种方式

一键安装

我们已经打包好了整个python虚拟环境,可以通过如下命令下载并激活:

./prepare.sh
source sola-demo-env/bin/activate

手动创建

安装 micromamba:

"${SHELL}" <(curl -L micro.mamba.pm/install.sh)

创建 sola-demo-env 环境:

micromamba create -n sola-demo-env python=3.9 -f requirements.txt -c conda-forge -y

激活 sola-demo-env 环境:

micromamba activate sola-demo-env

编译运行

示例程序分为两种,一种是Runtime API的示例,一种是模型部署的示例。

在根目录下执行 build.sh,会编译所有的示例程序,模型部署的示例在各自的目录下也有编译脚本,可以单独编译。

Runtime API示例程序的编译产物在根目录的 build/bin 下,模型示例程序的编译产物在各自的 models/xxx/build 下。

执行Runtime API的示例程序,可以直接在根目录下执行,如:

./build/bin/device_query

执行模型部署的示例程序,需要参考每个模型目录中的 README.md 。通常情况下,模型的部署都需要下载模型和数据文件,以及配置运行环境,所以基本都有 prepare.shbuild.shrun.shverify.sh 这几个脚本。

prepare.sh 用于下载模型文件、数据预处理以及配置运行环境。

build.sh 用于编译模型部署的示例程序。

run.sh 用于执行模型部署的示例程序。

verify.sh 用于验证模型部署的示例程序的运行结果。

最后更新于

这有帮助吗?