包管理工具
-
Anaconda
- 安装地址
- Anaconda指的是一个开源的Python发行版本,其包含了conda、Python等180多个科学包及其依赖项。因为包含了大量的科学包。Anaconda包括Conda、Python以及一大堆安装好的工具包,比如:numpy、pandas等。
使用Anaconda创建虚拟环境yolov8
conda -V conda list conda create -n yolov8 python=3.7 #使用国内资源下载 pip install 包名 -i https://pypi.tuna.tsinghua.edu.cn/simpleconda env list
yolov8
labelimg
- 一款在线的深度学习图像分割标注工具
- 可学习的其他文章链接:
- 学习做自己的数据集文章链接:
此处默认已安装anaconda,并创建好了自己所需的虚拟环境。
- 点击【Anaconda Prompt】,打开 Anaconda 命令行界面, 也就是上面Anaconda介绍的
- 输入
conda activate 虚拟环境名,激活虚拟环境 - 输入
pip install labelimg,安装Labelimg图像标注工具 - 输入
labelimg,打开图像标注工具主界面
环境准备
pip install ultralytics -i https://pypi.tuna.tsinghua.edu.cn/simple
方法一(未写全请读者忽略)
创建自己的数据集
在yolov8 根目录下新建data文件其包含Annotations,images,ImageSets,labels四个文件夹
————根目录
————————data
————————————Annotations
————————————images
————————————ImageSets
————————————labels
以上是目录,以下是文件
————————————fall.yaml
————————splitDataset.py
————————ViewCategory.py
————————XML2TXT.py
————————yolov8n.pt # 这个是在YOLOv8的GitHub开源网址上下载对应版本的模型
fall.yaml
train: 绝对目录\data\ImageSets\train.txt
val: 绝对目录\data\ImageSets\val.txt
test: 绝对目录\data\ImageSets\test.txt
# number of classes
nc: 1
# class names
names: ['dog', 'car', 'tip'] # 需要修改的地方 根据 labelimg 标注填写 自己的数据
splitDataset.py
import os
import random
trainval_percent = 0.9
train_percent = 0.9
xmlfilepath = 'data/Annotations'
txtsavepath = 'data/ImageSets'
total_xml = os.listdir(xmlfilepath)
num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)
ftrainval = open(txtsavepath + '/trainval.txt', 'w')
ftest = open(txtsavepath + '/test.txt', 'w')
ftrain = open(txtsavepath + '/train.txt', 'w')
fval = open(txtsavepath + '/val.txt', 'w')
for i in list:
name = total_xml[i][:-4] + '\n'
if i in trainval:
ftrainval.write(name)
if i in train:
ftrain.write(name)
else:
fval.write(name)
else:
ftest.write(name)
ftrainval.close()
ftrain.close()
fval.close()
ftest.close()
ViewCategory.py
import os
from unicodedata import name
import xml.etree.ElementTree as ET
import glob
def count_num(indir):
label_list = []
# 提取xml文件列表
os.chdir(indir)
annotations = os.listdir('.')
annotations = glob.glob(str(annotations) + '*.xml')
dict = {} # 新建字典,用于存放各类标签名及其对应的数目
for i, file in enumerate(annotations): # 遍历xml文件
# actual parsing
in_file = open(file, encoding='utf-8')
tree = ET.parse(in_file)
root = tree.getroot()
# 遍历文件的所有标签
for obj in root.iter('object'):
name = obj.find('name').text
if (name in dict.keys()):
dict[name] += 1 # 如果标签不是第一次出现,则+1
else:
dict[name] = 1 # 如果标签是第一次出现,则将该标签名对应的value初始化为1
# 打印结果
print("各类标签的数量分别为:")
for key in dict.keys():
print(key + ': ' + str(dict[key]))
label_list.append(key)
print("标签类别如下:")
print(label_list)
if __name__ == '__main__':
# xml文件所在的目录,修改此处
indir = 'data/Annotations'
count_num(indir) # 调用函数统计各类标签数目
XML2TXT.py
# -*- coding: utf-8 -*-
# xml解析包
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
sets = ['train', 'test', 'val']
classes = ['dog', 'car', 'tip'] # 需要修改的地方 根据 labelimg 标注填写 自己的数据
# 进行归一化操作
def convert(size, box): # size:(原图w,原图h) , box:(xmin,xmax,ymin,ymax)
dw = 1./size[0] # 1/w
dh = 1./size[1] # 1/h
x = (box[0] + box[1])/2.0 # 物体在图中的中心点x坐标
y = (box[2] + box[3])/2.0 # 物体在图中的中心点y坐标
w = box[1] - box[0] # 物体实际像素宽度
h = box[3] - box[2] # 物体实际像素高度
x = x*dw # 物体中心点x的坐标比(相当于 x/原图w)
w = w*dw # 物体宽度的宽度比(相当于 w/原图w)
y = y*dh # 物体中心点y的坐标比(相当于 y/原图h)
h = h*dh # 物体宽度的宽度比(相当于 h/原图h)
return (x, y, w, h) # 返回 相对于原图的物体中心点的x坐标比,y坐标比,宽度比,高度比,取值范围[0-1]
# year ='2012', 对应图片的id(文件名)
def convert_annotation(image_id):
'''
将对应文件名的xml文件转化为label文件,xml文件包含了对应的bunding框以及图片长款大小等信息,
通过对其解析,然后进行归一化最终读到label文件中去,也就是说
一张图片文件对应一个xml文件,然后通过解析和归一化,能够将对应的信息保存到唯一一个label文件中去
labal文件中的格式:calss x y w h 同时,一张图片对应的类别有多个,所以对应的bunding的信息也有多个
'''
# 对应的通过year 找到相应的文件夹,并且打开相应image_id的xml文件,其对应bund文件
in_file = open('data/Annotations/%s.xml' % (image_id), encoding='utf-8')
# 准备在对应的image_id 中写入对应的label,分别为
# <object-class> <x> <y> <width> <height>
out_file = open('data/labels/%s.txt' % (image_id), 'w', encoding='utf-8')
# 解析xml文件
tree = ET.parse(in_file)
# 获得对应的键值对
root = tree.getroot()
# 获得图片的尺寸大小
size = root.find('size')
# 如果xml内的标记为空,增加判断条件
if size != None:
# 获得宽
w = int(size.find('width').text)
# 获得高
h = int(size.find('height').text)
# 遍历目标obj
for obj in root.iter('object'):
# 获得difficult ??
difficult = obj.find('difficult').text
# 获得类别 =string 类型
cls = obj.find('name').text
# 如果类别不是对应在我们预定好的class文件中,或difficult==1则跳过
if cls not in classes or int(difficult) == 1:
continue
# 通过类别名称找到id
cls_id = classes.index(cls)
# 找到bndbox 对象
xmlbox = obj.find('bndbox')
# 获取对应的bndbox的数组 = ['xmin','xmax','ymin','ymax']
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
float(xmlbox.find('ymax').text))
print(image_id, cls, b)
# 带入进行归一化操作
# w = 宽, h = 高, b= bndbox的数组 = ['xmin','xmax','ymin','ymax']
bb = convert((w, h), b)
# bb 对应的是归一化后的(x,y,w,h)
# 生成 calss x y w h 在label文件中
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
# 返回当前工作目录
wd = getcwd()
print(wd)
for image_set in sets:
'''
对所有的文件数据集进行遍历
做了两个工作:
1.将所有图片文件都遍历一遍,并且将其所有的全路径都写在对应的txt文件中去,方便定位
2.同时对所有的图片文件进行解析和转化,将其对应的bundingbox 以及类别的信息全部解析写到label 文件中去
最后再通过直接读取文件,就能找到对应的label 信息
'''
# 先找labels文件夹如果不存在则创建
if not os.path.exists('data/labels/'):
os.makedirs('data/labels/')
# 读取在ImageSets/Main 中的train、test..等文件的内容
# 包含对应的文件名称
image_ids = open('data/ImageSets/%s.txt' % (image_set)).read().strip().split()
# 打开对应的2012_train.txt 文件对其进行写入准备
list_file = open('data/%s.txt' % (image_set), 'w')
# 将对应的文件_id以及全路径写进去并换行
for image_id in image_ids:
list_file.write('data/images/%s.jpg\n' % (image_id))
# 调用 year = 年份 image_id = 对应的文件名_id
convert_annotation(image_id)
# 关闭文件
list_file.close()
GPU版 模型训练/验证/预测/导出
需环境:
- cuda11.3
- pytorch:1.11.0
- torchvision:0.12.0
yolo task=detect mode=train model=yolov8n.pt args...
classify predict yolov8n-cls.yaml args...
segment val yolov8n-seg.yaml args...
export yolov8n.pt format=onnx args...
# 单卡训练
yolo task=detect mode=train model=yolov8n.pt data=data/fall.yaml batch=32 epochs=100 imgsz=640 workers=16 device=0
# 多卡训练
yolo task=detect mode=train model=yolov8n.pt data=data/fall.yaml batch=32 epochs=100 imgsz=640 workers=16 device=\'0,1,2,3\'
| 名称 | 默认值 | 描述 |
|---|---|---|
| batch | 16 | 训练的批量大小 |
| model | null | 训练模型权重,可指定具体位置,如yolov8n.pt,yolov8n.yaml等 |
| epochs | 100 | 训练的轮次 |
| imgsz | 640 | 输入图像压缩后的尺寸 |
| device | null | 用于训练的设备,可选0或1或cpu等 |
| workers | 8 | 多线程数据加载,默认8 |
| data | null | 数据路径,使用自定义的yaml文件或者官方yaml |
| lr0 | float | 初始学习率 |
| lrf | float | 最终学习率(lr0 * lrf) |
| patience | 50 | 早期训练时,准确率如果没有显著上升则停止的轮次 |
| save | True | 是否需要保存训练的模型和预测结果 |
| cache | False | 使用缓存进行数据加载,可选True/ram, disk 或者 False |
| project | null | 项目名称 |
| name | null | 实验的名称 |
| exist_ok | False | 是否覆盖现有实验 |
| pretrained | False | 是否使用预训练模型 |
| optimizer | ‘SGD’ | 优化器,可选[‘SGD’, ‘Adam’, ‘AdamW’, ‘RMSProp’] |
| verbose | False | 是否打印详细输出 |
| seed | 0 | 重复性实验的随机种子 |
| deterministic | True | 是否启用确定性模式 |
| single_cls | False | 是否将多类数据训练为单类 |
| image_weights | False | 是否使用加权图像选择进行训练 |
| rect | False | 是否支持矩形训练 |
| cos_lr | False | 是否使用余弦学习率调度器 |
| close_mosaic | 10 | 禁用最后 10 个 epoch 的马赛克增强 |
| resume | False | 是否从上一个检查点恢复训练 |
| lr0 | 0.01 | 初始学习率(SGD=1E-2, Adam=1E-3) |
| lrf | 0.01 | 余弦退火超参数 (lr0 * lrf) |
| momentum | 0.937 | 学习率动量 |
| weight_decay | 0.0005 | 权重衰减系数 |
| warmup_epochs | 3.0 | 预热学习轮次 |
| warmup_momentum | 0.8 | 预热学习率动量 |
| warmup_bias_lr | 0.1 | 预热学习率 |
| box | 7.5 | giou损失的系数 |
| cls | 0.5 | 分类损失的系数 |
| dfl | 1.5 | dfl损失的系数 |
| fl_gamma | 0.0 | 焦点损失的gamma系数 (efficientDet默认gamma=1.5) |
| label_smoothing | 0.0 | 标签平滑 |
| nbs | 64 | 名义批次,比如实际批次为16,那么64/16=4,每4 次迭代,才进行一次反向传播更新权重,可以节约显存 |
| overlap_mask | True | 训练期间掩码是否重叠(仅限分割训练) |
| mask_ratio | 4 | 掩码下采样率 (仅限分割训练) |
| dropout | 0.0 | 使用 dropout 正则化 (仅限分类训练) |
模型验证
yolo task=detect mode=val model=runs/detect/train3/weights/best.pt data=data/fall.yaml device=0
| 名称 | 默认值 | 描述 |
|---|---|---|
| val | True | 在训练期间验证/测试 |
| save_json | False | 将结果保存到 JSON 文件 |
| save_hybrid | False | 保存标签的混合版本(标签+附加预测) |
| conf | 0.001 | 用于检测的对象置信度阈值(预测时默认 0.25 ,验证时默认0.001) |
| iou | 0.6 | NMS 的交并比 (IoU) 阈值 |
| max_det | 300 | 每张图像的最大检测数 |
| half | True | 使用半精度 (FP16) |
| dnn | False | 使用 OpenCV DNN 进行 ONNX 推理 |
| plots | False | 在训练期间显示图片 |
模型预测
yolo task=detect mode=predict model=runs/detect/train3/weights/best.pt source=data/images device=0
| 名称 | 默认值 | 描述 |
|---|---|---|
| source | ‘ultralytics/assets’ | 图片或视频的源目录 |
| save | False | 是否保存结果 |
| show | False | 是否显示结果 |
| save_txt | False | 将结果保存为 .txt 文件 |
| save_conf | False | 保存带有置信度分数的结果 |
| save_crop | Fasle | 保存裁剪后的图像和结果 |
| conf | 0.3 | 置信度阈值 |
| hide_labels | False | 隐藏标签 |
| hide_conf | False | 隐藏置信度分数 |
| vid_stride | False | 视频帧率步幅 |
| line_thickness | 3 | 边界框厚度(像素) |
| visualize | False | 可视化模型特征 |
| augment | False | 将图像增强应用于预测源 |
| agnostic_nms | False | 类别不可知的 NMS |
| retina_masks | False | 使用高分辨率分割蒙版 |
| classes | null | 只显示某几类结果,如class=0, 或者 class=[0,2,3] |
模型导出
yolo task=detect mode=export model=runs/detect/train3/weights/best.pt format=onnx
CPU版 模型训练/验证/预测/导出
方法二
创建自己的数据集
- 收集图片
- 创建目录
- 标注图片
- 执行创建目录中的create_datas.py
- 训练自己的数据集
- 完成训练
- 测试
1. 收集图片
可以写爬虫、也可以自己网上一张张拿等
2. 创建目录
Moon_Cake
├─images
└─all
└─labels
└─all
- 把你采集的图片放到这个目录中
- 把3. 标注图片生成的zip解压到这个目录中
├── dataset
└── images
└── test
└── train
└── val
└── labels
└── test
└── train
└── val
└── VOCdevkit
└── Annotations
└── JPEGImages
└── txt
└── create_datas.py
create_datas.py
# by CSDN 迪菲赫尔曼
import os
import random
import shutil
# 设置随机数种子
random.seed(123)
# 定义文件夹路径
root_dir = '../Moon_Cake'
image_dir = os.path.join(root_dir, 'images', 'all')
label_dir = os.path.join(root_dir, 'labels', 'all')
output_dir = '../dataset'
# 定义训练集、验证集和测试集比例
train_ratio = 0.7
valid_ratio = 0.15
test_ratio = 0.15
# 获取所有图像文件和标签文件的文件名(不包括文件扩展名)
image_filenames = [os.path.splitext(f)[0] for f in os.listdir(image_dir)]
label_filenames = [os.path.splitext(f)[0] for f in os.listdir(label_dir)]
# 随机打乱文件名列表
random.shuffle(image_filenames)
# 计算训练集、验证集和测试集的数量
total_count = len(image_filenames)
train_count = int(total_count * train_ratio)
valid_count = int(total_count * valid_ratio)
test_count = total_count - train_count - valid_count
# 定义输出文件夹路径
train_image_dir = os.path.join(output_dir, 'images', 'test')
train_label_dir = os.path.join(output_dir, 'labels', 'test')
valid_image_dir = os.path.join(output_dir, 'images', 'train')
valid_label_dir = os.path.join(output_dir, 'labels', 'train')
test_image_dir = os.path.join(output_dir, 'images', 'val')
test_label_dir = os.path.join(output_dir, 'labels', 'val')
# 创建输出文件夹
os.makedirs(train_image_dir, exist_ok=True)
os.makedirs(train_label_dir, exist_ok=True)
os.makedirs(valid_image_dir, exist_ok=True)
os.makedirs(valid_label_dir, exist_ok=True)
os.makedirs(test_image_dir, exist_ok=True)
os.makedirs(test_label_dir, exist_ok=True)
# 将图像和标签文件划分到不同的数据集中
for i, filename in enumerate(image_filenames):
if i < train_count:
output_image_dir = train_image_dir
output_label_dir = train_label_dir
elif i < train_count + valid_count:
output_image_dir = valid_image_dir
output_label_dir = valid_label_dir
else:
output_image_dir = test_image_dir
output_label_dir = test_label_dir
# 复制图像文件
src_image_path = os.path.join(image_dir, filename + '.jpg')
dst_image_path = os.path.join(output_image_dir, filename + '.jpg')
shutil.copy(src_image_path, dst_image_path)
# 复制标签文件
src_label_path = os.path.join(label_dir, filename + '.txt')
dst_label_path = os.path.join(output_label_dir, filename + '.txt')
shutil.copy(src_label_path, dst_label_path)
├── 根目录
└── data.yaml
data.yaml
train: E:\xxx\xxx\dataset\images\train # train images (relative to 'path') 128 images
val: E:\xxx\xxx\dataset\images\val # val images (relative to 'path') 128 images
test: E:\xxx\xxx\dataset\images\test
nc: 1 # 下面的 names 的长度
# Classes
names: ['MoonCake'] # 写自己填写的标记标签(3. 标记图片里 > 2. 步骤如下 > 第五张图片你自己填写的标签)
3. 标注图片
-
使用的标注软件makesense
-
步骤如下:
注意:选择全部需要标记的图片
注意: 创建标记标签
注意: 标记完所有的标签后进行导出 生成 zip 文件(其中txt文件里标记的格式为:
<object-class-id> <x> <y> <width> <height>)
4. 执行创建目录中的create_datas.py
- 执行后这个才有
5. 训练自己的数据集
yolo detect train data=data.yaml model=yolov8n.pt epochs=80 imgsz=640
6. 完成训练
7. 测试
- 把完成训练里的
best.pt这个文件放到根目录
├── 根目录
└── weights
└── best.pt
yolo detect predict model=weights/best.pt source=Moon_Cake/images/all save=True