首页 > 其他分享 >【d2l】【常见函数】【9】 nn.Embedding()

【d2l】【常见函数】【9】 nn.Embedding()

时间:2023-07-26 23:34:39浏览次数:37  
标签:批量 nn 步长 d2l Embedding 维度 向量

将输入的序列转换词向量
转载:https://www.jianshu.com/p/63e7acc5e890 ,本帖仅用于学习,请给原博主点赞
参考:https://pytorch.org/docs/stable/generated/torch.nn.Embedding.html

函数参数

nn.Embedding(num_embeddings (int), embedding_dim (int))

num_embeddings: 这个词典中有多少个词

embedding_dim: 词向量的维度,即多少长度的向量能表示一个词,类似于独热向量的长度。

image

函数使用

输入:

预处理:

词典映射:
image
加上EOS表示每个句子的结束
image
加上pad填充,让每个序列的长度相同
image
转换成RNN需要的格式(RNN每次处理一个时间步长中所有批量的单词) : 时间步长 * 批量大小
image

batch = [
	[3,6,4],
	[6,4,5],
	[5,7,8],
	[6,9,7],
	[7,5,1],
	[1,1,2]
]

最后根据输入的向量维度,输出词向量:时间步长 * 批量大小 * 词向量维度
image

标签:批量,nn,步长,d2l,Embedding,维度,向量
From: https://www.cnblogs.com/lycnight/p/17583795.html

相关文章

  • nn.MaxPool2d()、transpose().contiguous()、view()说明
    1.nn.MaxPool2d()和nn.Conv2D()基本一样,但是stride默认值是kernel_size。2.transpose().contiguous()、view()contiguous一般与transpose,permute,view搭配使用:使用transpose或permute进行维度变换后,调用contiguous,然后方可使用view对维度进行变形print(x.shape)x=x.transpos......
  • java runnable 退出run
    如何实现"javarunnable退出run"概述在Java中,我们可以通过实现Runnable接口来创建一个可以在多线程中执行的任务。然而,有时候我们需要在任务执行完成之前提前退出run方法。本文将介绍如何实现这个目标。操作步骤下面是一个详细的操作步骤,用表格形式展示了整个过程:步骤描......
  • RunnerGo性能测试怎么做?
    性能测试—计划管理新建计划:在左侧导航栏中,选择“性能测试”,点击“计划管理”进入计划管理界面,点击右上角新建计划来新建测试计划。任务类型选择后不可再更改。定时模式下,该计划内最多只能创建一个场景。普通任务:支持当即执行计划;定时任务:可预设计划开始运行的时间和频次,频次可......
  • albumentations TypeError: Image must have uint8 channel type
    MedAugment报错:Traceback(mostrecentcalllast):File"/disk2/ccc/Github/Medaugment/medaugment.py",line234,in<module>main()File"/disk2/ccc/Github/Medaugment/medaugment.py",line230,inmaingenerate_datasets(**var......
  • RunnerGo性能测试怎么做?
    性能测试—计划管理新建计划:在左侧导航栏中,选择“性能测试”,点击“计划管理”进入计划管理界面,点击右上角新建计划来新建测试计划。任务类型选择后不可再更改。定时模式下,该计划内最多只能创建一个场景。普通任务:支持当即执行计划;定时任务:可预设计划开始运行的时间和频次,频......
  • nn.Conv2d()参数说明、输入输出
    1.参数说明2.输入输出参数计算若没有设置dilation:......
  • celery 启动显示警告信息“...whether broker connection retries are made during st
    博客地址:https://www.cnblogs.com/zylyehuo/在settings文件中设置broker_connection_retry_on_startup=True修改配置后运行效果如下......
  • 【深入浅出】你必须知道的 InnoDB 锁(二)
    ......
  • ubuntu22.04 cuda cudnn tensorRT安装
    1:查看当前安装驱动版本信息driverversion:525.116.03cudaversion:12.0注意:nvidia官网下载和打开巨慢的问题把nvidia.com换成nvidia.cn2:下载cudaversion12.0版本并安装https://developer.nvidia.com/cuda-toolkit-archivehttps://developer.nvidia.com/cuda-12-0-0......
  • Scanner对象的用法和区别
    Scanner对象之前我们学校的基本语法中我们并没有实现程序和人的交互,但是Java给我们提供了这样一个工具类,我们可以获取用户的输入。java.util.Scanner是Java5的新特征,我们可以通过Scanner类来获取用户的输入。基本语法:Scanners=newScanner(System.in);通过Scanner......