如何平衡 PyTorch 数据集？

我有一个不平衡的 PyTorch 数据集。 A 和 V 样本的数量远低于其他样本 我想平衡我的数据集，即使我必须删除属于主流类的样本。怎么办？

现在，如果某些类的数量超过某个固定值，我只需删除某些类的样本。这在技术上比较复杂并且不方便。也许有一些 sklearn 或 PyTorch 方法可以使该算法更容易实现？

可以使用 PyTorch 和/或 Scikit-learn 中的各种技术来平衡不平衡的 PyTorch 数据集。以下是两种常用方法：

1. 使用 WeightedRandomSampler 进行欠采样

• 思路： 通过降低训练期间主流类样本的采样频率来创建一个平衡的数据加载器。
• 优势： 易于实现；不会丢弃数据。
• 缺点： 对于非常大的数据集，可能不是最佳选择，因为它会丢弃信息。

```python import torch from torch.utils.data import DataLoader, WeightedRandomSampler

# 计算类权重（可以根据需要进行调整） class_counts = [len(dataset.targets[dataset.targets == i]) for i in range(len(dataset.classes))] class_weights = 1./torch.tensor(class_counts, dtype=torch.float) sample_weights = [class_weights[t] for t in dataset.targets]

# 创建加权随机采样器 sampler = WeightedRandomSampler(sample_weights, len(sample_weights))

# 在 DataLoader 中使用采样器 dataloader = DataLoader(dataset, batch_size=32, sampler=sampler) ```

2. 使用 RandomUnderSampler 进行过采样

• 思路： 通过随机复制欠表达类中的样本，使所有类的样本数量相等。
• 优势： 可以提高欠表达类的性能，特别是在数据量有限的情况下。
• 缺点： 可能导致过拟合，尤其是在欠表达类中的样本数量非常少的情况下。

```python from imblearn.under_sampling import RandomUnderSampler from collections import Counter

# 将的数据和标签分别存储在 X 和 y 中 X = ... y = ...

# 实例化 RandomUnderSampler rus = RandomUnderSampler(random_state=42)

# 对数据进行欠采样 X_resampled, y_resampled = rus.fit_resample(X, y)

print("原始数据集中的类别分布：", Counter(y)) print("欠采样后数据集中的类别分布：", Counter(y_resampled))

# 现在，可以使用 resampled_data 创建一个新的 PyTorch 数据集 ```

选择哪种方法？

• 如果的数据集很大，欠采样（使用 WeightedRandomSampler）通常是不错的选择。
• 如果的数据集很小并且担心过拟合，过采样（使用 RandomOverSampler）可能是一个更好的选择。

额外提示：

• 考虑尝试不同的类权重，看看哪种方法最适合的问题。
• 除了欠采样和过采样之外，还可以探索其他数据增强技术来增加欠表达类中的样本数量。
• 始终通过监控相关的指标，如精确率、召回率和 F1 分数（而不是仅关注准确率）来评估模型在平衡数据集上的性能。

希望这些技巧可以帮助平衡 PyTorch 数据集！如果有任何其他问题，请告诉我。