- 2024-11-19垃圾分类、垃圾识别
- 2024-11-17【预训练-微调】采用迁移学习的方式完成肺部感染识别-学习笔记
本学习笔记来源于B站:04-1轻松学PyTorch肺部感染识别简介 中第04-1到04-6这六个视频。在本预训练-微调代码中,重点要学习的内容包括:加载官方提供的经典网络架构resnet50和对应的预训练模型,对ResNet最后的两层网络(池化层和全连接层)进行修改,改为适合自己任务的网络架构。对
- 2024-11-15李沐《动手学深度学习》kaggle树叶分类(ResNet18无预训练)python代码实现
前言 在尝试这个树叶分类之前,作者仅仅看完了ResNet残差网络一章,并没有看后面关于数据增强的部分,这导致在第一次使用最原始的ResNet18直接跑完训练数据之后的效果十分的差,提交kaggle后的准确仅有20%左右。本文最后依然使用未经预训练的手写ResNet18网络,但做了一定的
- 2024-11-14pytorch中的ImageFolder 用法
ImageFolder是PyTorch中torchvision.datasets模块提供的一个常用类,用于从文件夹中加载图像数据。它是一种非常方便的方式来加载按文件夹结构组织的图像数据集。这个类能够自动将文件夹中的子目录作为标签,并且将其中的图像文件加载为PyTorch张量。1.基本概念ImageF
- 2024-11-02数据处理工具
PyTorch数据处理工具箱torch.utils.dataDataset抽象类,其他数据集类定义时需继承自该类,并覆写两个方法:getitem__和__lenDataLoader定义一个新的迭代器,实现批量batch读取,打乱shuffle数据和并行加速等功能random_split将数据集随机拆分成给定长度的非重叠的新数据集*sample
- 2024-10-25小土堆学习笔记6:常见的Transforms(二)
Resize()注意一点:Resize(512)是将图像等比例缩放,使得图像的最短边为512像素,保持了原始的宽高比例。而Resize((512,512))则是将图像强制缩放为512x512的正方形,无论图像的原始宽高比是什么。因此,如果你需要不改变比例的缩放,使用Resize(512),如果需要固定大小为正方形的图像,则
- 2024-10-10昇思MindSpore进阶教程--自动数据增强
大家好,我是刘明,明志科技创始人,华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享,如果你也喜欢我的文章,就点个关注吧正文开始MindSpore除了可以让用户自定义数据增强的使用,还提供了一种自动数据增强方式,可以基于特定
- 2024-10-09深度学习No module named ‘torchvision.transforms.functional_tensor‘问题解决
问题在进行深度学习训练过程中出现ModuleNotFoundError:Nomodulenamed'torchvision.transforms.functional_tensor'报错,多方查阅资料后得到了解决方案。关于我的环境:CUDA==12.1torch==2.4.1GPU==4090D原先进行深度学习用的CUDA11.3,torch1.2.1,但是在训练时出现nvrtc
- 2024-10-01clothing1m数据集使用
简介Clothing1M包含14个类别的100万张服装图像。这是一个带有噪声标签的数据集,因为数据是从多个在线购物网站收集的,并且包含许多错误标记的样本。该数据集还分别包含50k、14k和10k张带有干净标签的图像,用于训练、验证和测试。下载地址:https://github.com/Newbeeer/L_DM
- 2024-10-01深度学习(计算数据集均值标准差)
深度学习中有些数据集可能不符合imagenet计算出的均值和标准差,需要根据自己的数据集单独计算。下面这个脚本能够计算当前数据集均值和标准差。 importtorchimportosfromPILimportImagefromtorchvisionimporttransforms#trans=transforms.Compose([#
- 2024-09-29《迁移学习》—— 将 ResNet18 模型迁移到食物分类项目中
文章目录一、迁移学习的简单介绍1.迁移学习是什么?2.迁移学习的步骤二、数据集介绍三、代码实现1.步骤2.所用到方法介绍的文章链接3.完整代码一、迁移学习的简单介绍1.迁移学习是什么?迁移学习是指利用已经训练好的模型,在新的任务上进行微调。迁移学习可以加快模
- 2024-09-27深度学习:迁移学习
目录一、迁移学习1.什么是迁移学习2.迁移学习的步骤1、选择预训练的模型和适当的层2、冻结预训练模型的参数3、在新数据集上训练新增加的层4、微调预训练模型的层5、评估和测试二、迁移学习实例1.导入模型2.冻结模型参数3.修改参数4.创建类,数据增强,导入数据5.定
- 2024-09-24【DL基础】torchvision数据集操作
示例来源:PyTorch深度学习实战(geekbang.org)1、图像裁剪torchvision.transforms提供了多种剪裁方法,例如中心剪裁、随机剪裁、四角和中心剪裁等。我们依次来看下它们的定义。先说中心剪裁,顾名思义,在中心裁剪指定的PILImage或Tensor,其定义如下:torchvision.transforms
- 2024-09-12基于SE-ResNet的图像十分类
文章目录一、数据预处理1数据加载1.1标签在文件夹上的数据集加载1.2标签在文件名中的数据集加载1.3数据集划分训练集和验证集的方法1.4读取csv文件的数据集加载方法2数据处理2.1数据增广在线增广离线增广2.2数据扩充3自定义数据集加载3.1前言3.2数据预处理
- 2024-08-2726-数据增广
随即水平翻转:torchvision.transforms.RandomHorizontalFlip()上下随机翻转:torchvision.transforms.RandomVerticalFlip())随机剪裁,剪裁后的大小为(200,200),(0.1,1)使得随即剪裁原始图片的10%到100%区域里的大小,ratio=(0.5,2)使得高宽比为2:1,torchvision.transforms.RandomResize
- 2024-08-23transforms
transforms主要作用是对图片进行变换可以使用PyCharm界面左侧的structure按钮查看transforms的结构:由许多类定义组成的模块。1.transforms被如何使用(python)在transforms中选择一个class,对它进行创建,根据创建的实例,查看需要的输入参数,最后返回结构。fromPILimport
- 2024-08-16迁移学习代码复现
一、前言说来可能令人难以置信,迁移学习技术在实践中是非常简单的,我们仅需要保留训练好的神经网络整体或者部分网络,再在使用迁移学习的情况下把保留的模型重新加载到内存中,就完成了迁移的过程。之后,我们就可以像训练普通神经网络那样训练迁移过来的神经网络了。我们使用已
- 2024-08-04数据变换 Transforms
通常情况下,直接加载的原始数据并不能直接送入神经网络进行训练,此时我们需要对其进行数据预处理。MindSpore提供不同种类的数据变换(Transforms),配合数据处理Pipeline来实现数据预处理。所有的Transforms均可通过map方法传入,实现对指定数据列的处理。mindspore.dataset提供了
- 2024-08-03Pytorch笔记|小土堆|P14-15|torchvision数据集使用、Dataloader使用
学会看内置数据集的官方文档:https://pytorch.org/vision/stable/generated/torchvision.datasets.CIFAR10.html#torchvision.datasets.CIFAR10示例代码:importtorchvisionfromtorch.utils.tensorboardimportSummaryWriterfromtorchvisionimporttransforms#ToTensorte
- 2024-08-02Pytorch笔记|小土堆|P10-13|transforms
transforms对图像进行改造最靠谱的办法:根据help文件自行学习transforms包含哪些工具(类)以及如何使用————————————————————————————————————自学一个类时,应关注:1、如何使用各种工具(类)的使用思路:创建对象(实例化)——>传入参数,调用函数(如有__
- 2024-08-02深度学习扫盲——Transforms
在PyTorch中,torchvision是一个常用的库,它提供了对图像和视频数据的处理功能,包括数据加载、转换等。transforms是torchvision.transforms模块的一部分,它定义了一系列的图像转换操作,这些操作可以单独使用或者组合成转换序列(通过transforms.Compose),以便于在数据加载时自动应用到图像
- 2024-07-30数据集相关类代码回顾理解 | np.mean\transforms.Normalize\transforms.Compose\xxx.transform
数据集相关类代码回顾理解|StratifiedShuffleSplit\transforms.ToTensor\Counter目录np.meantransforms.Normalizetransforms.Composexxx.transformnp.meanmeanRGB=[np.mean(x.numpy(),axis=(1,2))forx,_intrain_ds]计算每个样本的(RGB)均值 。NumPy库np.
- 2024-07-27《昇思25天学习打卡营第5天|数据变换 Transforms》
数据变换Transforms通常情况下,直接加载的原始数据并不能直接送入神经网络进行训练,此时我们需要对其进行数据预处理。MindSpore提供不同种类的数据变换(Transforms),配合数据处理Pipeline来实现数据预处理。所有的Transforms均可通过map方法传入,实现对指定数据列的处理
- 2024-07-22卷积神经网络CNN实战:MINST手写数字识别——数据集下载与网络训练
数据集下载这一部分比较简单,就不过多赘述了,把代码粘贴到自己的项目文件里,运行一下就可以下载了。fromtorchvisionimportdatasets,transforms#定义数据转换,将数据转换为张量并进行标准化transform=transforms.Compose([transforms.ToTensor(),#转换为张量
- 2024-07-20Datawhale AI 夏令营——CV图像竞赛(Deepfake攻防)——Task3学习笔记
这一篇是在数据增强的方向上发力,尝试提升模型的表现。 数据增强的目的是通过人工方式增加训练数据的多样性,从而提高模型的泛化能力,使其能够在未见过的数据上表现得更好。对于图像而言,数据增强包括例如视角、光照、遮挡等情况,使得模型能够学习到