TorchVision 对整个模型与主干模型使用预训练权重

TorchVision 检测模型有一个 weights 和一个 weights_backbone 参数。使用预训练 weights 是否意味着模型在幕后使用了预训练 weights_backbone ？我正在训练 RetinaNet 模型，我不确定应该使用这两个选项中的哪一个以及它们之间有什么区别。

这正是 TorchVision 使用预训练权重处理整个模型和主干的方式：

weights : 此参数加载 整个模型 的预训练权重，包括主干（例如，ResNet、MobileNet）和检测头（例如，RetinaNet 的头部）。如果你在与预训练数据集类似的数据集上进行微调并且想要良好的初始性能，那么使用此选项非常有用。

weights_backbone : 此参数 仅加载主干 的预训练权重，并将检测头初始化为随机权重。当你有一个与预训练数据集显著不同的数据集，并且你想要利用主干的预训练特征提取能力，同时从头开始训练检测头时，此选项非常有用。

使用预训练 weights 是否意味着模型在幕后使用了预训练 weights_backbone ？

是 ，可以这么说。当你加载 weights 时，你还会加载主干的预训练权重。本质上， weights 包含了 weights_backbone 以及检测头的权重。

对于你的 RetinaNet 模型，你应该使用哪一个？

这取决于你的具体情况和目标：

• 如果你在与用于预训练权重的 COCO 数据集 类似 的数据集上进行微调，请直接使用 models.retinanet_resnet50_fpn(weights=RetinaNet_ResNet50_FPN_Weights.COCO_V1) 之类的代码，这将为你提供最佳的初始性能。这将加载整个模型的预训练权重，包括主干和头部。

• 如果你在与 COCO 数据集 非常不同 的数据集上进行训练，请考虑仅使用预训练的主干： models.retinanet_resnet50_fpn(weights_backbone=ResNet50_Weights.IMAGENET1K_V1) ，然后从头开始训练你的检测头。这将允许你利用预训练主干的强大功能，同时为你的特定任务微调检测头。

• 如果你想从头开始训练，请不要使用 weights 或 weights_backbone 。

简而言之：

• weights : 用于微调类似数据集，加载整个模型的权重。
• weights_backbone : 用于从不同数据集开始训练，仅加载主干权重。

在进行选择时，请务必考虑你的数据集的相似性、你所需的性能水平以及你愿意花费的训练时间。