SOLA示例程序
概述
SOLA 示例程序是单独发布的代码包,可以通过以下链接获取:
https://moffett-oss-bucket01.oss-cn-shenzhen.aliyuncs.com/sola-demo/sola-demo-3.4.0.tar.gz
这个项目包含了SOLA Runtime API的示例代码,以及一些模型部署的demo,以帮助用户快速上手SOLA Runtime API。
目录与文件说明
├── common # 公用文件
├── data # 运行一些基础示例所需要的模型文件
├── inference # 一个简单的通用推理框架示例
├── introduction # SOLA Runtime API的基本用法介绍
├── models # SOLA Runtime API模型部署的demo
├── utils # SOLA Runtime API的一些实用工具
├── build.sh # 编译脚本
├── install_dependencies.sh # 安装系统依赖脚本
├── prepare.sh # 下载python环境依赖和系统依赖
├── CHANGELOG.md # 更变日志
├── README.md # 说明文档
├── LICENSE # 版权信息
└── VERSION # 版本信息使用说明
系统要求
我们在以下系统版本和内核版本上测试通过:
Ubuntu 18.04
5.4
Debian 10
5.4
Alios 8.6
4.19
Redhat 8.3
4.18
注意:当前系统语言环境必须为英文,否则会执行错误,可以执行以下命令将当前shell环境改为英文:
软件依赖
基础系统依赖库(不包含模型部署示例的依赖)
wgettarlibgl1cmake>= 3.10g++>= 7.xgflags>= 2.2SOLA Toolkit== 3.4.0
请自行安装以上依赖,或者执行以下脚本安装:
python 环境依赖
我们提供两种方式创建python环境,一种是一键安装,一种是手动创建,推荐使用第一种方式。
一键安装
我们已经打包好了整个python虚拟环境,可以通过如下命令下载并激活:
手动创建
安装 micromamba:
创建 sola-demo-env 环境:
激活 sola-demo-env 环境:
编译运行
示例程序分为两种,一种是Runtime API的示例,一种是模型部署的示例。
在根目录下执行 build.sh,会编译所有的示例程序,模型部署的示例在各自的目录下也有编译脚本,可以单独编译。
Runtime API示例程序的编译产物在根目录的 build/bin 下,模型示例程序的编译产物在各自的 models/xxx/build 下。
执行Runtime API的示例程序,可以直接在根目录下执行,如:
执行模型部署的示例程序,需要参考每个模型目录中的 README.md 。通常情况下,模型的部署都需要下载模型和数据文件,以及配置运行环境,所以基本都有 prepare.sh、build.sh、run.sh、verify.sh 这几个脚本。
prepare.sh 用于下载模型文件、数据预处理以及配置运行环境。
build.sh 用于编译模型部署的示例程序。
run.sh 用于执行模型部署的示例程序。
verify.sh 用于验证模型部署的示例程序的运行结果。
最后更新于
这有帮助吗?