首页 > 其他分享 >多层感知机——pytorch版

多层感知机——pytorch版

时间:2023-07-29 09:33:40浏览次数:45  
标签:w1 nn torch 多层 感知机 pytorch num b1 b2

import torch
from torch import nn
from d2l import torch as d2l

batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)

num_inputs,num_outputs,num_hiddens = 784, 10,256
w1 = nn.Parameter(
    torch.randn(num_inputs,num_hiddens,requires_grad=True)
)
b1 = nn.Parameter(torch.zeros(num_hiddens,requires_grad=True))
w2 = nn.Parameter(torch.randn(num_hiddens,num_outputs,requires_grad=True))

b2 = nn.Parameter(torch.zeros(num_outputs,requires_grad=True))
# w1 b1是第一层,w2 b2是第二层
params = [w1,b1,w2,b2]
# 实现relu激活函数
def relu(x):
    a = torch.zeros_like(x)
    return torch.max(x,a)
# 实现模型
def net(x):
    # 把图片拉成矩阵
    x = x.reshape((-1,num_inputs))
    # @表示矩阵乘法
    h = relu(x@w1+b1)
    return (h@w2+b2)

loss = nn.CrossEntropyLoss()
# 训练
num_epochs,lr=10,0.1
updater = torch.optim.SGD(params,lr=lr)
print(updater)
# d2l.train_ch3(net,train_iter,test_iter,loss,num_epochs,updater)

 

标签:w1,nn,torch,多层,感知机,pytorch,num,b1,b2
From: https://www.cnblogs.com/jinbb/p/17589303.html

相关文章

  • 线性回归模型实现——pytorch版
    importrandomimporttorchfromd2limporttorchasd2ldefsynthetic_data(w,b,num_examples):"""生成y=Xw+b+噪声"""x=torch.normal(0,1,(num_examples,len(w)))#01正态分布,num_examples个样本,len(w)列print('len是:'......
  • 苹果mac m1,m2芯片安装 pytorch和tensorflow的GPU版本
    一、下载M芯片的anaconda,并安装 二、安装GPU版本的pytorch1.安装Xcodexcode-select--install2.创建环境condacreate-ntorch-gpupython=3.11condaactivatetorch-gpu 3.打开pytorch官网复制命令,注意:在macm上,device是’mps’而不是’cuda’,mac的MPS......
  • 使用RecyclerView来实现多层级的数据
    ✍️作者简介:沫小北(专注于Android、Web、TCP/IP等技术方向)......
  • PyTorch 1.4 中文文档校对活动正式启动 | ApacheCN
    一如既往,PyTorch1.4中文文档校对活动启动了!认领须知请您勇敢地去翻译和改进翻译。虽然我们追求卓越,但我们并不要求您做到十全十美,因此请不要担心因为翻译上犯错——在大部分情况下,我们的服务器已经记录所有的翻译,因此您不必担心会因为您的失误遭到无法挽回的破坏。(改编自维基百......
  • PyTorch基础知识-新手笔记
    PyTorch是Facebook团队于2017年1月发布的一个深度学习框架。PyTorch采用Python语言接口来实现编程,就像带GPU的NumPy,与Python一样属于动态框架。PyTorch继承了Torch灵活、动态的编程环境和用户友好等特点,支持以快速与灵活的方式构建动态神经网络,还允许在训练过程中快速更改代码而不......
  • 图注意力网络论文详解和PyTorch实现
    图神经网络(gnn)是一类功能强大的神经网络,它对图结构数据进行操作。它们通过从节点的局部邻域聚合信息来学习节点表示(嵌入)。这个概念在图表示学习文献中被称为“消息传递”。消息(嵌入)通过多个GNN层在图中的节点之间传递。每个节点聚合来自其邻居的消息以更新其表示。这个过......
  • 使用Python统计下桌面某个文件夹下(含多层子文件夹)具体文件的数量(方法二)
    大家好,我是皮皮。一、前言前几天在Python最强王者群【东哥】问了一个Python自动化办公的问题,一起来看看吧。这个是他自己在实际工作中遇到的需求,正好遇到了这个问题,想着用Python来实现下。二、实现过程上一篇文章中已经分享了一个方法,这一篇文章继续分享另外一个方法,由【小王......
  • 使用Python统计下桌面某个文件夹下(含多层子文件夹)具体文件的数量(方法一)
    大家好,我是皮皮。一、前言前几天在Python最强王者群【东哥】问了一个Python自动化办公的问题,一起来看看吧。这个是他自己在实际工作中遇到的需求,正好遇到了这个问题,想着用Python来实现下。二、实现过程这里【郑煜哲·Xiaopang】给了一个提示,使用pathlib.glob()来进行解决,后来......
  • 感知机模型
    模型概念输入空间和输出空间\(\mathbfX\subseteq\mathbbR^n\)\(\mathbfY=\{+1,-1\}\)\(\mathbfx\in\mathbfX\)\(y\in\mathbfY\)假设空间\[f(\mathbfx)=sign(\mathbfw\cdot\mathbfx+b)\]\(w\)和\(b\)是感知机的模型参数,\(\mathbfw......
  • pytorch中gru
    PyTorch中GRU的实现简介在本文中,我将教你如何在PyTorch中实现GRU(GatedRecurrentUnit)这个循环神经网络模型。GRU是一种常用的循环神经网络模型,它能够解决序列数据建模的问题,如自然语言处理、语音识别等。步骤概览在实现GRU之前,让我们先来了解一下整个流程。下面是实现GRU的步......