首页 > 其他分享 >机器学习笔记(三)简单手写识别

机器学习笔记(三)简单手写识别

时间:2023-12-25 17:26:42浏览次数:32  
标签:img batch 笔记 train paddle model 识别 手写 MNIST

目标

实现一个简单的手写识别的脚本,同样的,流程分五步走:

  1. 读入数据
  2. 初始化模型
  3. 训练模型
  4. 训练样本集乱序
  5. 校验数据有效性

前期准备

前期需要将库导入,还需要进行一些初始化操作

数据处理部分之前的代码,加入部分数据处理的库

点击查看代码
#加载飞桨和相关类库
import paddle
from paddle.nn import Linear
import paddle.nn.functional as F
import os
import numpy as np
import matplotlib.pyplot as plt
# 设置数据读取器,API自动读取MNIST数据训练集
train_dataset = paddle.vision.datasets.MNIST(mode='train')

初始化模型

  1. 首先要组件一个数据识别网络结构,和房价预测网络一样写就行了
  2. 需要将模型启动训练模式,同时加载训练集batch_size,设为16
  3. 定义优化器,使用随机梯度下降SGD优化器,设置学习率为0.001
点击查看代码

# 定义mnist数据识别网络结构,同房价预测网络
class MNIST(paddle.nn.Layer):
    def __init__(self):
        super(MNIST, self).__init__()
        
        # 定义一层全连接层,输出维度是1
        self.fc = paddle.nn.Linear(in_features=784, out_features=1)
        
    # 定义网络结构的前向计算过程
    def forward(self, inputs):
        outputs = self.fc(inputs)
        return outputs
		
# 声明网络结构
model = MNIST()

def train(model):
    # 启动训练模式
    model.train()
    # 加载训练集 batch_size 设为 16
    train_loader = paddle.io.DataLoader(paddle.vision.datasets.MNIST(mode='train'), 
                                        batch_size=16, 
                                        shuffle=True)
    # 定义优化器,使用随机梯度下降SGD优化器,学习率设置为0.001
    opt = paddle.optimizer.SGD(learning_rate=0.001, parameters=model.parameters())

训练模型、训练样本集乱序

训练过程采用二层循环嵌套方式,训练完成后需要保存模型参数,以便后续使用

  1. 内层循环:负责整个数据集的一次变脸,遍历数据集采用分批次的方式
  2. 外层循环:定义遍历数据集的次数,本次循环中外层循环10次,EPOCH_NUM
点击查看代码
import paddle
# 确保从paddle.vision.datasets.MNIST中加载的图像数据是np.ndarray类型
paddle.vision.set_image_backend('cv2')

# 声明网络结构
model = MNIST()
# 图像归一化函数,将数据范围为[0, 255]的图像归一化到[0, 1]
def norm_img(img):
    # 验证传入数据格式是否正确,img的shape为[batch_size, 28, 28]
    assert len(img.shape) == 3
    batch_size, img_h, img_w = img.shape[0], img.shape[1], img.shape[2]
    # 归一化图像数据
    img = img / 255
    # 将图像形式reshape为[batch_size, 784]
    img = paddle.reshape(img, [batch_size, img_h*img_w])
    
    return img
def train(model):
    # 启动训练模式
    model.train()
    # 加载训练集 batch_size 设为 16
    train_loader = paddle.io.DataLoader(paddle.vision.datasets.MNIST(mode='train'), 
                                        batch_size=16, 
                                        shuffle=True)
    # 定义优化器,使用随机梯度下降SGD优化器,学习率设置为0.001
    opt = paddle.optimizer.SGD(learning_rate=0.001, parameters=model.parameters())
    EPOCH_NUM = 10
    for epoch in range(EPOCH_NUM):
        for batch_id, data in enumerate(train_loader()):
            images = norm_img(data[0]).astype('float32')
            labels = data[1].astype('float32')
            
            #前向计算的过程
            predicts = model(images)
            
            # 计算损失
            loss = F.square_error_cost(predicts, labels)
            avg_loss = paddle.mean(loss)
            
            #每训练了1000批次的数据,打印下当前Loss的情况
            if batch_id % 1000 == 0:
                print("epoch_id: {}, batch_id: {}, loss is: {}".format(epoch, batch_id, avg_loss.numpy()))
            
            #后向传播,更新参数的过程
            avg_loss.backward()
            opt.step()
            opt.clear_grad()
            
train(model)
paddle.save(model.state_dict(), './mnist.pdparams')

综上就是模型训练过程

校验数据有效性

然后我们画个图试试就行

点击查看代码
# 读取一张本地的样例图片,转变成模型输入的格式
def load_image(img_path):
    # 从img_path中读取图像,并转为灰度图
    im = Image.open(img_path).convert('L')
    # print(np.array(im))
    im = im.resize((28, 28), Image.ANTIALIAS)
    im = np.array(im).reshape(1, -1).astype(np.float32)
    # 图像归一化,保持和数据集的数据范围一致
    im = 1 - im / 255
    return im

# 定义预测过程
model = MNIST()
params_file_path = 'mnist.pdparams'
img_path = './work/example_0.jpg'
# 加载模型参数
param_dict = paddle.load(params_file_path)
model.load_dict(param_dict)
# 灌入数据
model.eval()
tensor_img = load_image(img_path)
result = model(paddle.to_tensor(tensor_img))
print('result',result)
#  预测输出取整,即为预测的数字,打印结果
print("本次预测的数字是", result.numpy().astype('int32'))

标签:img,batch,笔记,train,paddle,model,识别,手写,MNIST
From: https://www.cnblogs.com/Leventure/p/17926500.html

相关文章

  • HttpClient5升级笔记--API篇
    最近终于是安奈不住升级的冲动,将自己项目的HttpClient版本从4升级到了5,其过程不可谓不艰辛,很多API改动让人无从下手。ApacheHttpClient5(也称为HttpClient5.x)是ApacheHttpComponents项目中的一个重要组件,用于发送HTTP请求和处理HTTP响应。它在与网络通信和处理方面提供......
  • 期末云计算笔记
    1.什么是云计算?云计算是是一种基于互联网的计算模式,通过网络云将巨大的数据计算处理程序分解成无数个小程序,然后通过多部服务器组成的系统进行处理和分析这些小程序得到结果并返回给用户。狭义的云计算是指IT基础设施的交付和使用模式,指在网络中以按需、按量、按时、易扩展的方......
  • thinkPhp的学习笔记(二)
    7.thinkphp自动验证-->$_validatearray(验证字段,验证规则,错误提示,[验证条件,附加规则,验证时间])1.验证字段需要验证的表单字段名称,这个字段不一定是数据库字段,也可以是表单的一些辅助字段,例如确认密码和验证码等等。有个别验证规则和字段无关的情况下,验证字段是可以随意设置的,例如ex......
  • 羚通视频智能分析平台安防监控视频平台森林烟火识别明火算法检测预警
    随着科技的不断发展,人工智能技术在各个领域都取得了显著的成果。在安防监控领域,羚通视频智能分析平台凭借其强大的功能和优越的性能,为森林防火工作提供了有力的技术支持。本文将详细介绍羚通视频智能分析平台的森林烟火识别明火算法检测预警功能,以及如何利用这一技术手段保护我们的......
  • 羚通视频智能分析平台安防监控视频平台森林烟火识别明火算法检测预警
    随着科技的不断发展,人工智能技术在各个领域都取得了显著的成果。在安防监控领域,羚通视频智能分析平台凭借其强大的功能和优越的性能,为森林防火工作提供了有力的技术支持。本文将详细介绍羚通视频智能分析平台的森林烟火识别明火算法检测预警功能,以及如何利用这一技术手段保护我们......
  • 笔记1 1
    很多人习惯用markdown写博客,然后同步到博客园,每次同步都比较麻烦。今天分享一个插件,来简化该步骤。原文章参考上传markdown文件到博客园-郭大侠1-博客园(cnblogs.com)上传markdown文件到博客园-郭大侠1-博客园(cnblogs.com)......
  • 笔记1
    很多人习惯用markdown写博客,然后同步到博客园,每次同步都比较麻烦。今天分享一个插件,来简化该步骤。原文章参考上传markdown文件到博客园-郭大侠1-博客园(cnblogs.com)上传markdown文件到博客园-郭大侠1-博客园(cnblogs.com)......
  • 笔记1
    很多人习惯用markdown写博客,然后同步到博客园,每次同步都比较麻烦。今天分享一个插件,来简化该步骤。原文章参考上传markdown文件到博客园-郭大侠1-博客园(cnblogs.com)上传markdown文件到博客园-郭大侠1-博客园(cnblogs.com)环境配置安装python3windows:https:/......
  • 羚通视频智能分析平台视频汇聚平台安全帽、反光衣佩戴算法识别算法检测预警
    在现代化的工程建设中,安全问题是至关重要的。为了确保工地的安全,工人们必须佩戴安全帽和反光衣。然而,由于工地面积大、人员多,人工监控的方式往往无法做到全面覆盖,存在一定的安全隐患。这时,羚通视频智能分析平台就显得尤为重要。它能够通过先进的算法识别技术,对工地上的工作人员是否......
  • 《Go语言高级编程》学习笔记之第一章
    以下主要是记录自己看曹大的《Go语言高级编程》一书,记录下自己的学习记录以及自己的理解,仅做记录使用。原文链接1、语言基础1.3数组、字符串和切片1.3.1数组varc=[...]int{2:3,1:2}//定义长度为3的int型数组,元素为0,2,3vard=[...]int{1,2,4:......