YOLOv5在Jetson Nano上的边缘计算部署实战

1. 项目概述：YOLOv5与Jetson Nano的完美结合

在边缘计算领域，将目标检测模型部署到嵌入式设备一直是极具挑战性的任务。YOLOv5作为当前最流行的实时目标检测框架之一，其轻量级版本非常适合在Jetson Nano这类边缘设备上运行。我最近完成了一个完整的项目闭环——从数据集准备、模型训练到最终在Jetson Nano上的部署，整个过程踩了不少坑，也积累了不少实战经验。

Jetson Nano是NVIDIA推出的嵌入式AI计算平台，虽然只有4GB内存（部分版本2GB），但凭借128核Maxwell架构GPU和专用AI加速器，完全能够胜任实时目标检测任务。与树莓派等普通开发板相比，它在AI工作负载上的性能可以提升10-20倍。而YOLOv5作为YOLO系列的最新演进版本，在保持高精度的同时，通过模型剪枝和量化等技术大幅减小了模型体积，特别适合资源受限的边缘设备。

这个项目最吸引我的地方在于它完整覆盖了AI落地的全流程——不仅是训练出一个好看的mAP数值，更重要的是让模型真正跑在硬件上，处理真实场景的视频流。很多教程只讲训练部分，或者只讲部署部分，但实际项目中这两部分需要通盘考虑。比如在训练时就要考虑后续部署的硬件限制，选择合适的模型大小和输入分辨率。

2. 环境准备与工具链搭建

2.1 Jetson Nano基础环境配置

拿到Jetson Nano开发板后，第一步是刷写最新的JetPack系统镜像。我推荐使用JetPack 4.6.1版本，因为这个版本对YOLOv5的支持最为稳定。刷机过程需要使用NVIDIA提供的SDK Manager工具，在Ubuntu主机上完成。这里有个小技巧：刷机时选择"最小安装"即可，后续需要的组件我们可以手动安装，这样可以节省宝贵的存储空间。

刷机完成后，第一件事是扩展交换空间。Jetson Nano默认只有2GB交换空间，对于编译一些大型库（如OpenCV）远远不够。我通过以下命令将交换空间扩展到8GB：

bash复制sudo fallocate -l 6G /swapfile
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile
sudo bash -c 'echo "/swapfile swap swap defaults 0 0" >> /etc/fstab'

接下来是关键的CUDA环境配置。虽然JetPack已经预装了CUDA，但需要手动将CUDA加入环境变量：

bash复制echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

验证CUDA安装是否成功：

bash复制nvcc --version

2.2 Python环境隔离与管理

在Jetson Nano上强烈建议使用虚拟环境来管理Python依赖。由于ARM架构的限制，很多Python包需要从源码编译安装，使用虚拟环境可以避免污染系统Python环境。我选择conda作为环境管理工具，虽然安装包体积较大，但后续依赖管理会方便很多。

安装miniconda：

bash复制wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-aarch64.sh
bash Miniconda3-latest-Linux-aarch64.sh

创建专门用于YOLOv5的conda环境：

bash复制conda create -n yolov5 python=3.8
conda activate yolov