编译tengine的整体流程如下：
安装配置cmake、G++、GCC等编译器--------->源码编译ACL库--------->源码编译protoc(libprotobuf-lite.so为编译模型生成工具所需的依赖)--------->源码编译Opencv库--------->配置ACL编译好的库到Tengine的Cmakelist中，打开ACL编译配置开关--------->源码编译Tengine

这里其他的编译过程不予赘述，参考本人OneNote笔记即可，且本人将编译的工具都放在了fanyichao_tengine:latest容器中了，如果迁移则直接迁移docker即可。
这里主要说明一下acl和tengine的编译过程
注意：本项目中的tengine是在服务器x86平台进行本地编译及交叉编译，在x86平台先生成tmfile离线模型（模型生成工具是本地编译出的，使用g++工具链），然后在arm架构开发板推理所用（推理库和头是交叉编译出的，使用g++-aarch64-linux-gnu交叉编译工具链）。
注意：查看编译出来的库是否为arm架构或者x86架构可以执行命令： file libprotobuf.so.18.0.1
输出结果：libprotobuf.so.18.0.1: ELF 64-bit LSB shared object, x86-64, version 1 (GNU/Linux), dynamically linked, BuildID[sha1]=57acd4dc81cc9d3f5786a9124e6e3f582780909b, with debug_info, not stripped

首先需要明确如何编译（arm编译、x86编译、交叉编译等）、编译什么（三方库、模型生成工具、量化工具等）这些都需要通过最外面的 Tengine-lite/CMakeLists.txt设置开关状态来决定，我这里为了方便直接执行脚本即可。
且需要注意的是TENGINE_BUILD_CONVERT_TOOL和TENGINE_ENABLE_ACL不能同时编译，因为TENGINE_BUILD_CONVERT_TOOL支持TENGINE_OPENMP开关量为ON，而TENGINE_ENABLE_ACL不支持，且TENGINE_BUILD_CONVERT_TOOL为本地编译，TENGINE_ENABLE_ACL为交叉编译。为了避免后期错误，这里设置脚本形式编译：即写两个脚本compile.sh和compile_convert_tool.sh，分别编译生成三方库和模型转换工具。

>>1.2.1.查看并检查模型转换工具
      进入Tengine-lite/build-convert_tool/install目录下有bin、include、lib三个文件夹，则bin中存放了模型生成工具，名为convert_tool，执行命令file convert_tool查看是否为x86-64版本。
>>1.2.2.查看并检查三方库及头文件
      进入Tengine-lite/build-aclm/install目录下有include、lib两个文件夹，则lib中包含了生成的动态库和静态库，命名为libtengine-lite-static.a/so，执行命令file libtengine-lite.*查看是否为ARM aarch64版本。

        [Convert Tools Info]: example arguments:
                ./convert_tool -f onnx -m ./mobilenet.onnx -o ./mobilenet.tmfile
                ./convert_tool -f caffe -p ./mobilenet.prototxt -m ./mobilenet.caffemodel -o ./mobilenet.tmfile
                ./convert_tool -f mxnet -p ./mobilenet.params -m ./mobilenet.json -o ./mobilenet.tmfile
                ./convert_tool -f darknet -p ./yolov3.weights -m ./yolov3.cfg -o yolov3.tmfile

以生成phonedet模型为例，
执行命令：./convert_tool -f caffe -p ../../../models/phonedet/phonedet.prototxt -m ../../../models/phonedet/phonedet.caffemodel -o ../../../models/data/phonedet.tmfile
执行结果：Convert model success. ../../../models/phonedet/phonedet.caffemodel -----> ../../../models/data/phonedet.tmfile
表示生成模型

step1：首先将1.1小节中生成的acl库和头文件复制到tengine_inference_phonedet/3rdparty/aclm目录下（因为在开发tengine的acl后端时为了不破坏源代码就重新创建了一个aclm后端分支）；然后将1.2小节中生成的tengine头和库复制到tengine_inference_phonedet/3rdparty/tengine目录下；
step2：将2小节中生成的离线模型复制到tengine_inference_phonedet/models目录下；
step3：按照tengine_inference_phonedet工程中的README.md文件进行操作即可。
注意：1.run_sample.sh脚本中写了调用库的临时路径，如果迁移工程可能导致链接找不到的问题，遇到此问题则在这里修改即可；2.此工程是中没有开发解码操作，为了方便，直接将解码保存为bin文件；3.执行前赋予脚本可执行权限。

推理性能如下所示：
Repeat 100 times, avg time 120.14 ms, max_time 222.62 ms, min_time 70.73 ms
 0:  90%, [ 373,  392,  570,  495], phone
 0:  95%, [ 764,  496, 1089,  656], phone

    对于系统内部的文本文件，如果我们需要对其进行修改，我们不能在自己用户下进行修改，需要去su超级用户下进行修改：

    su
    输入密码
    执行： echo xxxxx > file

    其中，xxxxx表示写入的内容，file表示要写入的目标文件

    例如：
    RK3399中需要修改mali-GPU的最低运行频率，需要进入如下设置：
    进入su用户
    cd /sys/devices/platform/ff9a0000.gpu/devfreq/ff9a0000.gpu/
    echo 800000000 > min_freq

通过模型转换，能够获得phonedet.caffemodel文件和phonedet.prototxt文件，将其移动到Tengine-lite/models目录下，按照第2小节中的操作即可生成tmfile模型（先看下面注意点）。

获得的phonedet.prototxt文件不能直接拿去执行Tengine-lite/build-convert_tool/install/bin/convert_tool生成tmfile，有些细节的地方需要收到修改，在Tengine-lite/tools/convert_tool/caffe/te_caffe.proto中定义了转模型时候phonedet.prototxt的写法，需要按照此标准对其进行细小修改，如下修改：
>>1.upsample层的scale改为整形（也可以对te_caffe.proto标准进行修改）
>>2.更改头部信息，将其看作一个layer进行解析。

获取工具的方式：
本地目录下：命名为fanyichao_tengine.tar
本人的dockerhub直接pull：命令为docker pull fanacio/fanyichao_tengine

获取工具的方式：
本人的dockerhub直接pull：命令为docker pull fanacio/yolo_yolox
或者直接找一个包含python依赖库的docker即可。

在jetson平台，可以编译acl源码（arm版），也可以编译生成tengine库（arm版），但是在运行推理工程的时候会报错如下信息：

    Can't load libOpenCL.so: libOpenCL.so: cannot open shared object file: No such file or directory
    Can't load libGLES_mali.so: libGLES_mali.so: cannot open shared object file: No such file or directory
    Can't load libmali.so: libmali.so: cannot open shared object file: No such file or directory
    Couldn't find any OpenCL library.
    terminate called after throwing an instance of 'std::runtime_error'
    what():  in create_opencl_context_and_device src/runtime/CL/CLHelpers.cpp:128: !opencl_is_available()

试图去全局搜索libOpenCL.so库，但没有找到，这是因为这个系统本身没有mail-gpu对应的库，即在RK3399中对应的/root-ro/etc/OpenCL/vendors/mali.icd下存在libMaliOpenCL.so，所以RK3399可以使用ACL后端。
另外，对于jetson边缘设备而言可以使用TensorRT后端。