YOLOv5自定义数据集训练全流程详解

1. 项目概述

YOLOv5作为当前工业界最受欢迎的实时目标检测框架之一，其训练过程涉及数据准备、模型配置、超参数调优等多个关键环节。本文将基于Ultralytics官方实现，详细拆解从零开始训练自定义数据集的完整流程，包含数据标注规范、模型结构选择、训练技巧等实战经验。

提示：本文基于YOLOv5 v7.0版本，所有代码示例均经过实际验证

2. 核心流程拆解

2.1 数据准备规范

数据集组织应采用YOLO标准格式：

code复制dataset/
├── images/
│   ├── train/
│   └── val/
└── labels/
    ├── train/
    └── val/

标注文件为.txt格式，每行表示一个目标：

code复制<class_id> <x_center> <y_center> <width> <height>

实测建议：

• 每类至少1500个标注实例
• 宽高比差异大的对象需单独分类
• 使用LabelImg或CVAT标注时注意归一化坐标

2.2 模型选型策略

YOLOv5提供不同规模的预训练模型：

选择建议：

• 工业检测推荐YOLOv5m起
• 嵌入式设备用YOLOv5n+s量化
• 首次训练建议从YOLOv5s开始

3. 训练配置详解

3.1 关键超参数解析

yaml复制# data.yaml 示例
train: ../dataset/images/train
val: ../dataset/images/val

nc: 3  # 类别数
names: ['person', 'car', 'dog']  # 类别名称

训练命令核心参数：

bash复制python train.py \
  --weights yolov5s.pt \
  --data data.yaml \
  --epochs 300 \
  --batch-size 16 \
  --img 640 \
  --device 0  # 使用GPU 0

3.2 学习率调优技巧

采用余弦退火策略时：

• 初始lr建议0.01（bs=64基准）
• 实际lr = base_lr * (bs/64)
• 使用--adam优化器时lr可降低10倍

注意：batch_size变化时需同步调整学习率

4. 训练监控与优化

4.1 指标解读

关键训练日志指标：

• mAP@0.5: IoU=0.5时的平均精度
• mAP@0.5:0.95: 多阈值平均精度
• precision/recall: 精确率/召回率
• box_loss: 定位损失
• obj_loss: 目标存在置信度损失

4.2 早停策略实现

修改train.py添加：

python复制early_stop = EarlyStopping(
    patience=50, 
    min_delta=0.001,
    verbose=True
)

5. 模型验证与导出

5.1 测试集评估

bash复制python val.py \
  --weights runs/train/exp/weights/best.pt \
  --data data.yaml \
  --task test

5.2 模型导出选项

常用导出格式：

• TorchScript (.pt)
• ONNX (.onnx)
• TensorRT (.engine)

导出示例：

bash复制python export.py \
  --weights best.pt \
  --include onnx \
  --dynamic

6. 实战经验总结

1. 数据增强建议：

   • 小数据集启用--augment参数
   • 添加mosaic时注意边缘目标处理
   • 工业场景慎用色彩扰动

2. 显存不足解决方案：

   • 减小--batch-size
   • 使用--multi-scale训练
   • 尝试梯度累积

3. 常见报错处理：

   • CUDA out of memory：降低batch_size
   • NaN损失：检查标注坐标是否越界
   • 低mAP：增加正样本数量

训练完成后建议使用--evolve参数进行超参数进化，通常可获得2-3%的mAP提升。对于部署环境，建议测试TensorRT加速效果，实测在3090上YOLOv5s可达1.2ms/帧。