Pytorch_YOLO-v8-推理

推理代码

### pred_scrapt.py
from ultralytics import YOLO
from PIL import Image
import cv2

model = YOLO("model.pt")
im2 = cv2.imread("bus.jpg")
results = model.predict(source=im2, save=True, save_txt=True)  # save predictions as labels
### CUDA_VISIBLE_DEVICES=1 python3 pred_scrapt.py
###RuntimeError:CUDNN BACKEND TENSOR DESCRIPTOR: Check and Set the CUDNN_ATTR_TENSOR_STRIDES Correctly	 
###CUDA_VISIBLE_DEVICES=2,3

说明

 source (str | int | PIL | np.ndarray):
 
 #The output of an object detector is 
 a set of bounding boxes
  that enclose the objects in the image, 
  along with class labels 
  and confidence scores for each box.
 
 # Each result is composed of torch.Tensor by default
 for result in results:
     result.boxes.xyxy   # box with xyxy format, (N, 4)
     result.boxes.xyxyn  # box with xyxy format but normalized, (N, 4)
     result.boxes.conf   # confidence score, (N, 1)
     result.boxes.cls    # cls, (N, 1)
 	result = result.numpy()

预测代码结构

1. ultralytics/ultralytics/yolo/utils/ops.py
    def xyxy2xywh(x): Convert bounding box coordinates from (x1, y1, x2, y2) format to (x, y, width, height) format.
	def xywh2xyxy(x)
	def xywhn2xyxy(x, w=640, h=640, padw=0, padh=0):
2. 
 Check if a string is composed of only ASCII characters. 
 Verify image size is a multiple of the given stride in each dimension
 Check file(s) for acceptable suffix
 Check if environment supports image displays


3.ultralytics/ultralytics/yolo/utils/plotting.py 
   方框的颜色及粗细更改
   
#绘制图像检测框	
#!/usr/bin/env python3
# -*- coding: UTF-8 -*-	   
import cv2
from PIL import Image, ImageDraw, ImageFont
import matplotlib.pyplot as plt
import numpy as np
import pandas as pd

##01.use PIL    
from PIL import Image
from PIL import ImageDraw
from PIL import ImageFont
im = Image.open('E:/Images/1d.png')
##返回一个 Image 对象  im.format, im.size, im.mode
   PIL (Python Image Library)
   python PIL图像处理模块中的ImageDraw类支持各种几何图形的绘制和文本的绘制，如直线、椭圆、弧、弦、多边形以及文字等。
   首先，通过ImageDraw类创建一个绘制对象draw; draw = ImageDraw.Draw(im)
     draw.rectangle()：矩形绘制
	 draw.text()：文字的绘制
##Image 模块中的 save() 函数可以保存图片	 
##PIL保存图片的时候,图片类型一定要是 ndarray类型,不能是tensor类型，tensor转成ndarray类型保存
##numpy中array默认的数据格式是int64类型，而torch中tensor默认的数据格式是float32类型
#Image 类的 thumbnail() 方法可以用来制作缩略图	
	 
##02.use cv2
 ###读入一张图片：cv2.imread(filepath,flags)  
  cv2.rectangle(img=img, pt1=point[0:2], pt2=point[2:4], color=blue, thickness=0)
  cv2.putText(img=img, text=category, org=point[0:2], fontFace=mark_font, fontScale=0.5, color=(0, 0, 255))
  cv2.imwrite(filename=output, img=img)

###03. import matplotlib.pyplot as plt
plt.subplots plt.close()  fig.savefig
plt.savefig()放在plt.show()之前，又或者是使用plt.gcf()固定图片，再保存


Tidelift是一家为软件开发团队提供开源项目管理工具的公司
###参考  https://simplecv.readthedocs.io/en/latest/
         https://pillow.readthedocs.io/en/stable/   https://github.com/python-pillow/Pillow

部署：

选择合适的模型，要明确自己项目的要求和标准，
  精度和速度一般是最重要的两个指标，但还有模型参数量、FLOPs计算量等也
    mAP这一个指标，也可能需要关注AP50、AP75、Recall等指标。
AI模型端到端的推理速度，也需要考虑到AI模型快速产业落地的速	

一、将训练好的模型转换格式为ONNX格式	
 torch.onnx.export(model, input, output_name)
 
 ONNX, Open Neural Network Exchage，所有其他框架产生的模型包 (.pth, .pb) 都可以转换成这个标准格式，转换成这个标准格式后，
 就可以使用统一的 ONNX Runtime等工具进行统一部署。
   ONNX定义的数据类包括了我们常用的数据类型，用来定义模型中的输出输出格式	
   ONNX中定义了很多我们常用的节点，比如 Conv,ReLU,BN, maxpool等等约124种
二、安装onnxruntime --ONNX生态系统的工具 
 onnxruntime-gpu版本在0.4以上时需要CUDA 10
 pip install onnxruntime
 pip install onnxruntime-gpu


三、onnxruntime使用方法  生态推理引擎	

#加载图片
img = cv2.imread(img_path)
img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
tensor = transforms.ToTensor()(img)
tensor = tensor.unsqueeze_(0)
#加载模型
session = onnxruntime.InferenceSession("./dmnet.onnx")
#执行推理
result = session.run([], {"input": tensor.cpu().numpy()}) ##推理：注意：这里的"input"是和转onnx格式时的名字对应

参考

 https://onnx.ai/index.html
 onnxruntime模型部署流程  https://shelleyhlx.blog.csdn.net/article/details/111504758