1. Jetson平台YOLOv8环境配置概述

在边缘计算设备上部署目标检测模型已经成为AI落地的关键环节。NVIDIA Jetson系列作为嵌入式AI计算平台的代表，凭借其强大的GPU加速能力和紧凑的尺寸，成为计算机视觉应用的理想选择。而YOLOv8作为Ultralytics推出的最新目标检测框架，以其卓越的精度和速度平衡著称。

在实际部署过程中，开发者常会遇到三大挑战：Python依赖冲突、PyTorch版本兼容性问题，以及如何充分发挥TensorRT的加速潜力。我曾在一个工业质检项目中，需要在Jetson AGX Orin上部署YOLOv8检测微小零件缺陷，整个过程踩遍了所有能想到的坑。本文将分享从环境配置到性能优化的完整实战经验，特别针对Jetson平台的特性提供解决方案。

2. 依赖环境配置与冲突解决

2.1 基础环境准备

Jetson设备通常预装JetPack SDK，包含CUDA、cuDNN等核心组件。首先确认系统版本：

cat /etc/nv_tegra_release  # 查看JetPack版本
uname -m  # 确认架构为aarch64

建议安装jtop工具监控设备状态：

sudo -H pip3 install jetson-stats
jtop  # 查看GPU/CPU使用率和温度

2.2 Python依赖管理

使用Miniconda创建独立环境能有效隔离依赖：

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-aarch64.sh
bash Miniconda3-latest-Linux-aarch64.sh
conda create -n yolov8 python=3.8
conda activate yolov8

关键依赖版本矩阵：

包名称	推荐版本	兼容范围	作用域
numpy	1.23.5	1.21.6-1.25.0	数值计算基础
scipy	1.10.0	≥1.10.0	科学计算库
pytorch	2.1.0	2.0.0-2.1.2	深度学习框架
torchvision	0.16.2	与PyTorch匹配	视觉处理扩展

2.3 典型冲突解决方案

案例1：numpy与scipy版本冲突

# 错误提示：numpy>=1.17.3且<1.25.0 required (detected version 1.26.3)
pip install numpy==1.23.5 scipy==1.10.0 --force-reinstall

案例2：onnxruntime-gpu自动降级numpy

# 安装onnxruntime-gpu后会破坏numpy版本
wget https://nvidia.box.com/shared/static/zostg6agm00fb6t5uisw51qi6kpcuwzd.whl -O onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl
pip install onnxruntime_gpu-1.17.0-cp38-cp38-linux_aarch64.whl
pip install numpy==1.23.5  # 必须重新指定numpy版本

3. PyTorch与torchvision定制安装

3.1 ARM架构专用安装

Jetson的ARM架构需要特殊编译的PyTorch：

sudo apt-get install libopenblas-base libopenmpi-dev
pip install torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl

3.2 torchvision源码编译

确保与PyTorch版本严格匹配：

sudo apt install libjpeg-dev zlib1g-dev
git clone https://github.com/pytorch/vision -b v0.16.2
cd vision
python setup.py install --user

验证安装：

import torch
print(torch.__version__, torch.cuda.is_available())  # 应显示True

4. YOLOv8安装与验证

4.1 基础安装

pip install ultralytics
yolo checks  # 验证环境

4.2 兼容性调整

修改~/.bashrc添加环境变量：

export OPENBLAS_CORETYPE=ARMV8  # 防止numpy报错
export CUDA_HOME=/usr/local/cuda

4.3 快速测试

yolo predict model=yolov8n.pt source='https://ultralytics.com/images/bus.jpg'

5. TensorRT加速实战

5.1 模型导出为TensorRT

from ultralytics import YOLO
model = YOLO("yolov8n.pt")
model.export(format="engine", device=0)  # 生成yolov8n.engine

5.2 性能优化技巧

FP16量化加速：

yolo export model=yolov8n.pt format=engine half=True device=0

动态批处理配置：

model.export(format="engine", 
             batch=1,  # 可改为动态范围如(1,4,8)
             workspace=4)  # GB

5.3 实测性能对比

在Jetson AGX Orin上的测试数据：

模式	推理时延(ms)	显存占用(MB)	FPS
PyTorch	15.2	1200	65.8
TensorRT FP32	8.7	980	114.9
TensorRT FP16	4.2	760	238.1

6. 常见问题排查指南

问题1：训练时进程被终止

sudo fallocate -l 8G /swapfile  # 创建交换空间
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile

问题2：TensorRT导出失败 检查CUDA/cuDNN版本：

nvcc --version  # 应≥11.4
cat /usr/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

问题3：推理结果异常 校准INT8量化：

model.export(format="engine", 
             int8=True,
             data="coco128.yaml",
             device=0)

在完成所有配置后，建议创建系统镜像备份。使用NVIDIA的flash.sh工具可以快速恢复开发环境。对于生产部署，考虑使用Docker容器封装整个环境，确保应用的可移植性。