原版darknet在Xaiver上面的检测帧率只有8～10帧左右，使用tensorRT加速之后，帧率可达到21～23帧。以下记录TensorRT的部署过程。
1.下载环境
git clone https://github.com/jkjung-avt/tensorrt_demos.git
2.执行 install_pycuda.sh
cd ${HOME}/project/tensorrt_demos/ssd
./install_pycuda.sh
3.安装onnx(不要使用1.5.0版本～)
sudo apt-get install protobuf-compiler libprotoc-dev
sudo pip3 install onnx==1.4.1
4.定位到plugins文件夹build相关程序
cd ${HOME}/tensorrt_demos/plugins
make
5.下载并转换yolo文件
cd ${HOME}/project/tensorrt_demos/yolo
./download_yolo.sh
6.转换yolo文件这里分两个步骤:
1)将.weight模型文件转换成 .onnx 格式
2)再将 .onnx文件转换成 .trt 格式
python3 yolo_to_onnx.py -m yolov4
python3 onnx_to_tensorrt.py -m yolov4 -v
(时间较长~)
7.使用TensorRT运行yolov4、yolov4-tiny
Yolo v4：
cd ${HOME}/tensorrt_demos
python3 trt_yolo.py --usb 0 --model yolov4
测试效果
问题记录：
1.TypeError: 1.0 has type numpy.float32, but expected one of: int
解决方法引用自：https://ask.csdn.net/questions/1231921
原因：onnx依赖protobuf，原有版本较低，需要将protobuf版本升级。
pip3 install -U protobuf
Original: https://blog.csdn.net/qq_33912152/article/details/123118098
Author: 天涯明月刀_Veh
Title: AGX Xaiver部署TensorRT对Yolo加速
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/682893/
转载文章受原作者版权保护。转载请注明原作者出处！