Ubuntu安装深度学习(YOLOv8)环境+自定义数据集+增加注意力机制模块

427 阅读8分钟

环境部署

查看本机Ubuntu系统环境

打开终端窗口

uname -a Linux dev-a12018-demo-cvun-pod-0 5.4.0-100-generic #113-Ubuntu SMP Thu Feb 3 18:43:29 UTC 2022 x86_64 x86_64 x86_64 GNU/Linux

cat /proc/version Linux version 5.4.0-100-generic (buildd@lcy02-amd64-002) (gcc version 9.3.0 (Ubuntu 9.3.0-17ubuntu1~20.04)) #113-Ubuntu SMP Thu Feb 3 18:43:29 UTC 2022

cat /etc/issue Ubuntu 20.04.5 LTS \n \l

显卡驱动安装

查看是否安装NVIDIA驱动命令: nvidia-smi

查看nvcc版本命令: nvcc --version

官网搜索驱动程序下载:www.nvidia.cn/Download/in…

进入下载文件夹,打开命令行窗口:(这里以GeForce RTX 3050举例)

首先通过如下命令获取该.run文件的执行权限

chmod +x NVIDIA-Linux-x86_64-535.54.03.run

通过如下命令运行下载好的.run文件:

sudo ./NVIDIA-Linux-x86_64-535.54.03.run

遇到的小问题
报错“you appear to be running an x server; please exit x before installing.”

解决方法:在运行命令后加上: --no-x-check

最后执行以下命令看是否安装成功: nvidia-smi

深度学习模型测试

安装anaconda

Index of /anaconda/archive/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror

在下载文件夹下,运行以下命令:bash Anaconda3-2022.05-Linux-x86_64.sh

搭建conda虚拟环境

新建虚拟环境 conda create yolov8 python=3.8

pip install ultralytics

激活虚拟环境 conda activate yolov8

推理: yolo predict model=yolov8n.pt source=./ultralytics/assets/bus.jpg

在下列文件路径中可以看到YOLOv8输出的图片结果: 微信图片_20231219172357.png

自定义数据集

数据准备

指定格式存放数据集

在yolov8/data目录下新建Annotations, images, ImageSets, labels 四个文件夹
images目录下存放数据集的图片文件
Annotations目录下存放图片的xml文件(labelImg标注)
没有自己数据集的可以使用这个数据集作训练

数据集文件设置如下:

├── ./data
│   ├── ./data/Annotations
│   │   ├── ./data/Annotations/fall_0.xml
│   │   ├── ./data/Annotations/fall_1000.xml
│   │   ├── ./data/Annotations/fall_1001.xml
│   │   ├── ./data/Annotations/fall_1002.xml
│   │   ├── ./data/Annotations/fall_1003.xml
│   │   ├── ./data/Annotations/fall_1004.xml
│   │   ├── ...
│   ├── ./data/images
│   │   ├── ./data/images/fall_0.jpg
│   │   ├── ./data/images/fall_1000.jpg
│   │   ├── ./data/images/fall_1001.jpg
│   │   ├── ./data/images/fall_1002.jpg
│   │   ├── ./data/images/fall_1003.jpg
│   │   ├── ./data/images/fall_1004.jpg
│   │   ├── ...
│   ├── ./data/ImageSets
│   └── ./data/labels

按比例划分数据集

在yolov8根目录下新建一个文件splitDataset.py 运行随机分配训练/验证/测试集图片,代码如下所示:

import random

trainval_percent = 0.9
train_percent = 0.9
xmlfilepath = 'data/Annotations'
txtsavepath = 'data/ImageSets'
total_xml = os.listdir(xmlfilepath)

num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)

ftrainval = open('data/ImageSets/trainval.txt', 'w')
ftest = open('data/ImageSets/test.txt', 'w')
ftrain = open('data/ImageSets/train.txt', 'w')
fval = open('data/ImageSets/val.txt', 'w')

for i in list:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        ftrainval.write(name)
        if i in train:
            ftrain.write(name)
        else:
            fval.write(name)
    else:
        ftest.write(name)

ftrainval.close()
ftrain.close()
fval.close()
ftest.close()

将xml文件转换成标准读取的txt文件

在同级目录下再新建一个文件XML2TXT.py
注意classes = [“…”]一定需要填写自己数据集的类别,在这里我是两个类别['abnormal,normaal'],因此classes = ['abnormal,normaal'],代码如下所示:

# xml解析包
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join


sets = ['train', 'test', 'val']
classes = ['abnormal,normaal']


# 进行归一化操作
def convert(size, box): # size:(原图w,原图h) , box:(xmin,xmax,ymin,ymax)
    dw = 1./size[0]     # 1/w
    dh = 1./size[1]     # 1/h
    x = (box[0] + box[1])/2.0   # 物体在图中的中心点x坐标
    y = (box[2] + box[3])/2.0   # 物体在图中的中心点y坐标
    w = box[1] - box[0]         # 物体实际像素宽度
    h = box[3] - box[2]         # 物体实际像素高度
    x = x*dw    # 物体中心点x的坐标比(相当于 x/原图w)
    w = w*dw    # 物体宽度的宽度比(相当于 w/原图w)
    y = y*dh    # 物体中心点y的坐标比(相当于 y/原图h)
    h = h*dh    # 物体宽度的宽度比(相当于 h/原图h)
    return (x, y, w, h)    # 返回 相对于原图的物体中心点的x坐标比,y坐标比,宽度比,高度比,取值范围[0-1]


# year ='2012', 对应图片的id(文件名)
def convert_annotation(image_id):
    '''
    将对应文件名的xml文件转化为label文件,xml文件包含了对应的bunding框以及图片长款大小等信息,
    通过对其解析,然后进行归一化最终读到label文件中去,也就是说
    一张图片文件对应一个xml文件,然后通过解析和归一化,能够将对应的信息保存到唯一一个label文件中去
    labal文件中的格式:calss x y w h  同时,一张图片对应的类别有多个,所以对应的bunding的信息也有多个
    '''
    # 对应的通过year 找到相应的文件夹,并且打开相应image_id的xml文件,其对应bund文件
    in_file = open('data/Annotations/%s.xml' % (image_id), encoding='utf-8')
    # 准备在对应的image_id 中写入对应的label,分别为
    # <object-class> <x> <y> <width> <height>
    out_file = open('data/labels/%s.txt' % (image_id), 'w', encoding='utf-8')
    # 解析xml文件
    tree = ET.parse(in_file)
    # 获得对应的键值对
    root = tree.getroot()
    # 获得图片的尺寸大小
    size = root.find('size')
    # 如果xml内的标记为空,增加判断条件
    if size != None:
        # 获得宽
        w = int(size.find('width').text)
        # 获得高
        h = int(size.find('height').text)
        # 遍历目标obj
        for obj in root.iter('object'):
            # 获得difficult ??
            difficult = obj.find('difficult').text
            # 获得类别 =string 类型
            cls = obj.find('name').text
            # 如果类别不是对应在我们预定好的class文件中,或difficult==1则跳过
            if cls not in classes or int(difficult) == 1:
                continue
            # 通过类别名称找到id
            cls_id = classes.index(cls)
            # 找到bndbox 对象
            xmlbox = obj.find('bndbox')
            # 获取对应的bndbox的数组 = ['xmin','xmax','ymin','ymax']
            b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
                 float(xmlbox.find('ymax').text))
            print(image_id, cls, b)
            # 带入进行归一化操作
            # w = 宽, h = 高, b= bndbox的数组 = ['xmin','xmax','ymin','ymax']
            bb = convert((w, h), b)
            # bb 对应的是归一化后的(x,y,w,h)
            # 生成 calss x y w h 在label文件中
            out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')


# 返回当前工作目录
wd = getcwd()
print(wd)


for image_set in sets:
    '''
    对所有的文件数据集进行遍历
    做了两个工作:
    1.将所有图片文件都遍历一遍,并且将其所有的全路径都写在对应的txt文件中去,方便定位
    2.同时对所有的图片文件进行解析和转化,将其对应的bundingbox 以及类别的信息全部解析写到label 文件中去
         最后再通过直接读取文件,就能找到对应的label 信息
    '''
    # 先找labels文件夹如果不存在则创建
    if not os.path.exists('data/labels/'):
        os.makedirs('data/labels/')
    # 读取在ImageSets/Main 中的train、test..等文件的内容
    # 包含对应的文件名称
    image_ids = open('data/ImageSets/%s.txt' % (image_set)).read().strip().split()
    # 打开对应的2012_train.txt 文件对其进行写入准备
    list_file = open('data/%s.txt' % (image_set), 'w')
    # 将对应的文件_id以及全路径写进去并换行
    for image_id in image_ids:
        list_file.write('data/images/%s.jpg\n' % (image_id))
        # 调用  year = 年份  image_id = 对应的文件名_id
        convert_annotation(image_id)
    # 关闭文件
    list_file.close()

查看自定义数据集标签类别及数量

在yolov8目录下再新建一个文件ViewCategory.py,将代码复制进去:

from unicodedata import name
import xml.etree.ElementTree as ET
import glob


def count_num(indir):
    label_list = []
    # 提取xml文件列表
    os.chdir(indir)
    annotations = os.listdir('.')
    annotations = glob.glob(str(annotations) + '*.xml')

    dict = {}  # 新建字典,用于存放各类标签名及其对应的数目
    for i, file in enumerate(annotations):  # 遍历xml文件

        # actual parsing
        in_file = open(file, encoding='utf-8')
        tree = ET.parse(in_file)
        root = tree.getroot()

        # 遍历文件的所有标签
        for obj in root.iter('object'):
            name = obj.find('name').text
            if (name in dict.keys()):
                dict[name] += 1  # 如果标签不是第一次出现,则+1
            else:
                dict[name] = 1  # 如果标签是第一次出现,则将该标签名对应的value初始化为1

    # 打印结果
    print("各类标签的数量分别为:")
    for key in dict.keys():
        print(key + ': ' + str(dict[key]))
        label_list.append(key)
    print("标签类别如下:")
    print(label_list)


if __name__ == '__main__':
    # xml文件所在的目录,修改此处
    indir = 'data/Annotations'
    count_num(indir)  # 调用函数统计各类标签数目

修改数据加载配置文件

进入data/文件夹,新建shit.yaml,内容如下,注意txt需要使用绝对路径 (注意查看Ubuntu系统中的根目录)

val: /home/xxx/yolov8/data/val.txt
test: /home/xxx/yolov8/data/test.txt

# number of classes
nc: 2

# class names
names: ['abnormal,normaal']

至此数据集的准备已经就绪,索引文件在data目录下的train.txt/val.txt/test.txt

模型训练/验证/预测/导出

单卡训练:

yolo task=detect mode=train model=yolov8n.pt data=data/fall.yaml batch=32 epochs=100 imgsz=640 workers=16 device=0

多卡训练:

yolo task=detect mode=train model=yolov8n.pt data=data/fall.yaml batch=32 epochs=100 imgsz=640 workers=16 device=\'0,1,2,3\'

增加注意力机制模块

1. 在/ultralytics/nn/modules路径下新建文件attention.py  

2. 拉取其中一个注意力机制的代码,例如SimAM.pyEMA.py

SimAM为有通道的,EMA为无通道的 

该代码来源于github.com/z1069614715…

3. 在/ultralytics/nn/tasks.py文件下,代码开头添加语句

from ultralytics.nn.modules.attention import EMA,SimAM

4. 找到解析模型的函数

def parse_model(d,ch,verbose=true)

图片1.png

重点注意有通道的!无通道的无需填写!

图片2.png

5. 在/ultralytics/cfg/models/v8新建yaml,yolov8-att.yaml,先将yolov8的原yaml文件内容复制粘贴至新建的yaml文件中,之后再进行修改。

6. 参数args

图片3.png

7. 配置文件讲解

【YOLOV5讲解-parse_model详细讲解(改进模型必看)】 www.bilibili.com/video/BV1pp…

8. 更改配置文件

图片4.png

涉及到序号的需要更改,后面的注释意味着第几层的序号

图片5.png

图片6.png

9. 测试预训练模型

在根目录下,运行main.py

from ultralytics import YOLO
# Load a model
model = YOLO("yolov8n.yaml")  # build a new model from scratch
model = YOLO("yolov8n.pt")  # load a pretrained model (recommended for training)
# Use the model
model.train(data="shit.yaml", epochs=100,device=0)  # train the model

10. 换成无参的注意力机制

图片7.png

以上就完成简单的增加注意力机制模块的简单操作,接下来是添加多种注意力机制的操作(没写完)

11. 什么情况下用到args

图片8.png

想要传递le-4的参数,一种方法在attention.py直接修改,另一种方法在yaml配置文件修改

图片9.png

12. 添加多种注意力机制

去对照原有的配置文件yolov8.yaml

图片10.png

图片11.png

参考:

CSDN

t.csdnimg.cn/ICT68

t.csdnimg.cn/nasyE

B站

【最新~YOLOV8手把手教学配置文件添加注意力机制!一看就会!】 www.bilibili.com/video/BV1RH…

【YOLOV5讲解-parse_model详细讲解(改进模型必看)】 www.bilibili.com/video/BV1pp…