Dataset & DataLoader
PyTorch 提供了两个数据处理的基本方法：torch.utils.data.DataLoader torch.utils.data.Dataset 允许使用预加载的数据集以及自己的数据。 Dataset 存储样本及其对应的标签， DataLoader 在 Dataset 基础上封装了一个可迭代的对象，以方便访问样本。
PyTorch 提供了许多预加载的数据集（如 FashionMNIST ) 这些数据集继承了 torch.utils.data.Dataset 类，并实现了特定数据的函数。它们可以用来创建模型原型和基准测试。Image Datasets, Text Datasets, 和 Audio Datasets
Loading a Dataset （加载数据集）
下面是一个加载 FashionMNIST 数据集的例子。 FashionMNIST 数据集包含了 60000 个训练样本和 10000 个测试样本，每一个样本是 28*28 的灰度图像和对应标签（一共 10 个类别）。
import torch
from torch.utils.data import DataLoader
from torchvision import datasets
from torchvision.transforms import ToTensor
import matplotlib.pyplot as plt
training_data = datasets.FashionMNIST(
root="../../data", # 存放数据的路径
train=True, # 是训练数据集还是测试数据集
download=True, # 如果存储的路径里没有数据集的话，就从网络下载数据集
transform=ToTensor() # 数据转换
)
test_data = datasets.FashionMNIST(
root = "../../data", # 存放数据的路径
train=False, # 是训练数据集还是测试数据集
download=True, # 如果存储的路径里没有数据集的话，就从网络下载数据集
transform=ToTensor() # 数据转换
)Iterating and Visualizing the Dataset （迭代和可视化数据集）
我们可以像索引列表一样对数据集进行索引，如 training_data[index], 使用 matplotlib 对数据进行可视化。
labels_map = {
0: "T-Shirt",
1: "Trouser",
2: "Pullover",
3: "Dress",
4: "Coat",
5: "Sandal",
6: "Shirt",
7: "Sneaker",
8: "Bag",
9: "Ankle Boot",
}
figure = plt.figure(figsize=(10, 10))
cols, rows = 3, 3
for i in range(1, rows * cols + 1):
sample_idx = torch.randint(0, len(training_data), size=(1,)).item()
img, label = training_data[sample_idx]
figure.add_subplot(rows, cols, i)
plt.title(labels_map[label])
plt.axis("off")
plt.imshow(img.numpy().reshape(28, 28), cmap="gray")
plt.show()
Creating a Custom Dataset for your files (用自己的文件定制数据集)
一个定制的数据集需要实现 3 个函数： init, len, getitem。 FashionMNIST 图片存储在 img_dir 里，它们的标签存储在 CSV 标注文件里。
import os
import numpy as np
import pandas as pd
from torchvision.io import read_image
class CustomImageDataset(Dataset):
def __init__(self, annotations_file, img_dir, transform=None, target_transform=None):
self.img_labels = pd.read_csv(annotations_file)
self.img_dir = img_dir
self.transform = transform
self.target_transform = target_transform
def __len__(self):
return len(self.img_labels)
def __getitem(self, idx):
img_path = os.path.join(self.img_dir, self.img_labels.iloc[idx, 0])
image = read_image(img_path)
label = self.img_labels.iloc[idx, 1]
if self.transform:
image = self.transform(image)
if self.target_transform:
label = self.target_transform(label)
return image, label__init__
当实例化 Dataset 对象时，__init__ 函数执行一次，需要包括包含图片和标注文件的路径，以及它们是否需要转换。
labels.csv 文件结构如下：
tshirt1.jpg, 0
tshirt2.jpg, 0
......
ankleboot999.jpg, 9len__
__len__ 函数返回数据中样本数量。
__getitem__
__getitem__函数从给定索引 idx 处的数据集中加载并返回一个样本。基于索引，它识别图像在磁盘上的位置，使用 read_image 将其转换为一个 tensor ，从 csv 数据中提取对应的标签，调用它们上的变换函数(如果适用)，并在元组中返回 tensor 图像和相应的标签。
Lnton 羚通是专注于音视频算法、算力、云平台的高科技人工智能企业。 公司基于视频分析技术、视频智能传输技术、远程监测技术以及智能语音融合技术等， 拥有多款可支持 ONVIF、RTSP、GB/T28181 等多协议、多路数的音视频智能分析服务器 / 云平台。
