YOLOv8-obb训练自己的数据集

一、YOLO OBB 格式

YOLO OBB 格式通过四个角点指定边界框，其坐标在 0 和 1 之间归一化：

class_index x1 y1 x2 y2 x3 y3 x4 y4

YOLO 在内部处理损失和产出。 xywhr 格式，表示边界框的中心点（xy）、宽度、高度和旋转角度。

一个例子 *.txt 标签文件，其中包含一个类 0 OBB 格式，可以是这样的

0 0.780811 0.743961 0.782371 0.74686 0.777691 0.752174 0.776131 0.749758

二、源码

直接去下载官方的yolov8源码就行，那里面集成了 obb

三、标注

1、下载地址

labelImg工具地址：labelImg。

roLabelImg工具地址：roLabelImg

2、环境配置

使用roLabelImg必须要先安装labelImg(作者配置为Win10+Python3.8.10)

（1） PyQt5安装
直接在CMD中输入pip install pyqt5 （或者下载whl文件进行离线安装pyqt5）。

（2）安装lxml：pip install lxml

（3） 使用labelImg

进入下载好的labelImg-master文件夹内（resources.py所在目录），CMD中输入pyrcc5 -o resources.py resources.qrc

然后继续输入命令python labelImg.py，即打开了labelImg运行页面可开始标注了。

3、使用roLabelImg

进入下载好的roLabelImg-master文件夹内（resources.py所在目录），CMD中输入pyrcc5 -o resources.py resources.qrc

然后继续输入命令python roLabelImg.py，此处报错了name ‘codecs’ is not
defined，只需将roLabelImg.py文件中的# – coding: utf8 --改成# – coding: utf-8–。

运行python roLabelImg.py，即打开了roLabelImg运行页面可开始标注了。Open Dir为打开要标注的图像文件夹，Files->change default saved Annotation dir 更改保存的标注xml文件路径，Create RotatedRBox开始绘制旋转矩形。

以下是一些标注快捷键，主要通过使用ZXCV实现标注框的旋转。

标注完之后，的xml示例如下，cx,cy代表标注框中心点的坐标，w,h代表宽和高，angle代表标注矩形框的角度。

注意：angle是旋转角度的弧度值，水平方向angle=0，顺时针方向旋转，得到的角度值是正值，旋转一周为pi，没有负值。

<annotation verified="no">
<folder>Edge</folder>
<filename>传送带</filename>
<path>D:/software/Edge/传送带.svg</path>
<source>
<database>Unknown</database>
</source>
<size>
<width>98</width>
<height>64</height>
<depth>3</depth>
</size>
<segmented>0</segmented>
<object>
<type>robndbox</type>
<name>tv</name>
<pose>Unspecified</pose>
<truncated>0</truncated>
<difficult>0</difficult>
<robndbox>
<cx>43.955</cx>
<cy>31.0144</cy>
<w>48.2204</w>
<h>40.0082</h>
<angle>2.841593</angle>
</robndbox>
</object>
</annotation>

配置完环境后，CMD中输入命令python labelImg.py，即打开了labelImg运行页面可开始标注了。

可以用旋转标注 标注后点击 标注的框 用 z,x,c,v 来更改 角度

生成的是xml文件

需要转换成dota能用的obb的txt文件

4、转换脚本

# 文件名称   ：roxml_to_dota.py
# 功能描述   ：把rolabelimg标注的xml文件转换成dota能识别的xml文件，
#             再转换成dota格式的txt文件
#            把旋转框 cx,cy,w,h,angle，或者矩形框cx,cy,w,h,转换成四点坐标x1,y1,x2,y2,x3,y3,x4,y4
import os
import xml.etree.ElementTree as ET
import math
 
cls_list = ['tv']  # 修改为自己的标签
 
 
def edit_xml(xml_file, dotaxml_file):
    """
    修改xml文件
    :param xml_file:xml文件的路径
    :return:
    """
 
    # dxml_file = open(xml_file,encoding='gbk')
    # tree = ET.parse(dxml_file).getroot()
 
    tree = ET.parse(xml_file)
    objs = tree.findall('object')
    for ix, obj in enumerate(objs):
        x0 = ET.Element("x0")  # 创建节点
        y0 = ET.Element("y0")
        x1 = ET.Element("x1")
        y1 = ET.Element("y1")
        x2 = ET.Element("x2")
        y2 = ET.Element("y2")
        x3 = ET.Element("x3")
        y3 = ET.Element("y3")
        # obj_type = obj.find('bndbox')
        # type = obj_type.text
        # print(xml_file)
 
        if (obj.find('robndbox') == None):
            obj_bnd = obj.find('bndbox')
            obj_xmin = obj_bnd.find('xmin')
            obj_ymin = obj_bnd.find('ymin')
            obj_xmax = obj_bnd.find('xmax')
            obj_ymax = obj_bnd.find('ymax')
            # 以防有负值坐标
            xmin = max(float(obj_xmin.text), 0)
            ymin = max(float(obj_ymin.text), 0)
            xmax = max(float(obj_xmax.text), 0)
            ymax = max(float(obj_ymax.text), 0)
            obj_bnd.remove(obj_xmin)  # 删除节点
            obj_bnd.remove(obj_ymin)
            obj_bnd.remove(obj_xmax)
            obj_bnd.remove(obj_ymax)
            x0.text = str(xmin)
            y0.text = str(ymax)
            x1.text = str(xmax)
            y1.text = str(ymax)
            x2.text = str(xmax)
            y2.text = str(ymin)
            x3.text = str(xmin)
            y3.text = str(ymin)
        else:
            obj_bnd = obj.find('robndbox')
            obj_bnd.tag = 'bndbox'  # 修改节点名
            obj_cx = obj_bnd.find('cx')
            obj_cy = obj_bnd.find('cy')
            obj_w = obj_bnd.find('w')
            obj_h = obj_bnd.find('h')
            obj_angle = obj_bnd.find('angle')
            cx = float(obj_cx.text)
            cy = float(obj_cy.text)
            w = float(obj_w.text)
            h = float(obj_h.text)
            angle = float(obj_angle.text)
            obj_bnd.remove(obj_cx)  # 删除节点
            obj_bnd.remove(obj_cy)
            obj_bnd.remove(obj_w)
            obj_bnd.remove(obj_h)
            obj_bnd.remove(obj_angle)
 
            x0.text, y0.text = rotatePoint(cx, cy, cx - w / 2, cy - h / 2, -angle)
            x1.text, y1.text = rotatePoint(cx, cy, cx + w / 2, cy - h / 2, -angle)
            x2.text, y2.text = rotatePoint(cx, cy, cx + w / 2, cy + h / 2, -angle)
            x3.text, y3.text = rotatePoint(cx, cy, cx - w / 2, cy + h / 2, -angle)
 
        # obj.remove(obj_type)  # 删除节点
        obj_bnd.append(x0)  # 新增节点
        obj_bnd.append(y0)
        obj_bnd.append(x1)
        obj_bnd.append(y1)
        obj_bnd.append(x2)
        obj_bnd.append(y2)
        obj_bnd.append(x3)
        obj_bnd.append(y3)
 
        tree.write(dotaxml_file, method='xml', encoding='utf-8')  # 更新xml文件
 
 
# 转换成四点坐标
def rotatePoint(xc, yc, xp, yp, theta):
    xoff = xp - xc;
    yoff = yp - yc;
    cosTheta = math.cos(theta)
    sinTheta = math.sin(theta)
    pResx = cosTheta * xoff + sinTheta * yoff
    pResy = - sinTheta * xoff + cosTheta * yoff
    return str(int(xc + pResx)), str(int(yc + pResy))
 
 
def totxt(xml_path, out_path):
    # 想要生成的txt文件保存的路径，这里可以自己修改
 
    files = os.listdir(xml_path)
    i = 0
    for file in files:
 
        tree = ET.parse(xml_path + os.sep + file)
        root = tree.getroot()
 
        name = file.split('.')[0]
 
        output = out_path + '\\' + name + '.txt'
        file = open(output, 'w')
        i = i + 1
        objs = tree.findall('object')
        for obj in objs:
            cls = obj.find('name').text
            box = obj.find('bndbox')
            x0 = int(float(box.find('x0').text))
            y0 = int(float(box.find('y0').text))
            x1 = int(float(box.find('x1').text))
            y1 = int(float(box.find('y1').text))
            x2 = int(float(box.find('x2').text))
            y2 = int(float(box.find('y2').text))
            x3 = int(float(box.find('x3').text))
            y3 = int(float(box.find('y3').text))
            if x0 < 0:
                x0 = 0
            if x1 < 0:
                x1 = 0
            if x2 < 0:
                x2 = 0
            if x3 < 0:
                x3 = 0
            if y0 < 0:
                y0 = 0
            if y1 < 0:
                y1 = 0
            if y2 < 0:
                y2 = 0
            if y3 < 0:
                y3 = 0
            for cls_index, cls_name in enumerate(cls_list):
                if cls == cls_name:
                    file.write("{} {} {} {} {} {} {} {} {} {}\n".format(x0, y0, x1, y1, x2, y2, x3, y3, cls, cls_index))
        file.close()
        # print(output)
        print(i)
 
 
if __name__ == '__main__':
    # -----**** 第一步：把xml文件统一转换成旋转框的xml文件 ****-----
    roxml_path = "./1"
    dotaxml_path = "./2"
    out_path = "./3"
    filelist = os.listdir(roxml_path)
    for file in filelist:
        edit_xml(os.path.join(roxml_path, file), os.path.join(dotaxml_path, file))
 
    # -----**** 第二步：把旋转框xml文件转换成txt格式 ****-----
    totxt(dotaxml_path, out_path)

转换后是如下的样子

但是这还没完，还需要再次转换一下
打开你的数据集中的labels 文件夹

新建两个文档 名称如下 然后 把你上方转化后的txt 放入下方文件夹中 训练集放入train_original中 验证集放入val_original中

然后 复制你文件夹路径，不是图片路径 也不是标签 路径

用obb中自带的转换脚本进行转换 那个路径是你数据集的路径

from ultralytics.data.converter import convert_dota_to_yolo_obb
 
convert_dota_to_yolo_obb("D:\Desktop\VOC")

然后再按照ctrl+左键定位 这个函数 convert_dota_to_yolo_obb 直接可以定位到 converter.py 文件中
拉到大约376行修改你标注的标签名和数量

还有修改大约420行左右的地方 将这里改成你图片的后缀，不然就没有效果

然后你运行上方那个自带的转换代码，标签文件中会生成train和val两个文件夹

转换成功的txt如下，这就可以训练

配置好yolov8obb的环境和yaml文件，就可以训练了

四、训练

可以直接写新建一个py文件，train.py

from ultralytics import YOLO

# Create a new YOLOv8n-OBB model from scratch
model = YOLO("yolov8n-obb.yaml")

# Train the model on the custom dataset
results = model.train(data="your_dataset.yaml", epochs=100, imgsz=640)