首页 > 其他分享 >深度学习中的动态Shape

深度学习中的动态Shape

时间:2024-05-07 19:23:23浏览次数:30  
标签:Tensor shape Shape 固定 深度 动态 输入

一、概念

  • 静态Shape:指在网络执行阶段Tensor的shape没有发生变化;
  • 动态Shape:指在网络执行阶段Tensor的shape发生变化。

二、动态shape引起的原因

  1. 输入shape不固定;
  2. 网络执行过程中有引发shape变化的API;
  3. 控制流不同分支引入shape上的变化。

三、规避策略

  1. 可以在输入数据上加pad,pad到固定的shape。如deep_speechv2的数据处理 规定input_length的最大长度,短的补0,长的随机截断,但是注意这种方法可能会影响训练的精度,需要平衡训练精度和训练性能;
  2. 可以设置一组固定的输入shape,将输入分别处理成几个固定的尺度。如YOLOv3_darknet53的数据处理,在batch方法加处理函数multi_scale_trans,在其中MultiScaleTrans中随机选取一个shape进行处理;
  3. 构造mask来过滤掉无效的位置的值。

参考文章

标签:Tensor,shape,Shape,固定,深度,动态,输入
From: https://www.cnblogs.com/Terrypython/p/18178176

相关文章

  • 动态判断两个时间的时间间隔--时分秒
    <!--div--><view>{{countRunTime(fromTime,toTime,'hh时mm分')"}}</view><!--script-->countRunTime(date1,date2,pattern){//date1开始时间,date2结束时间,pattern显示格式(这里只需要显示经时时分秒格式)letstartTime=newDate(date1......
  • 随机抽样将所有样本的测序深度标准化到相同的水平
    dataset$sample_sums()%>%range#计算并查看样本总数的范围dataset$rarefy_samples(sample.size=1000000)#执行重采样,标准化样本中的测序深度"46featuresareremovedbecausetheyarenolongerpresentinanysampleafterrandomsubsampling..."这意味着在稀......
  • 动态设置时间显示:hh:mm、星期、或具体日期
    封装共同方法exportfunctionformatMsgTime(time){//time传入的是时间戳,且时间戳长度为10位consttodayZero=newDate().setHours(0,0,0,0);constyearZero=newDate(newDate().getFullYear(),0,1,0,0,0,0).getTime();consttarget=newD......
  • Go-Zero技能提升:深度探究goctl的妙用,轻松应对微服务开发挑战!(三)
    前言有位同学在群里说:“Go-Zero官方文档太简洁了,对小白有点不友好。好奇你们是怎么学习的?项目是怎么封装的?有什么提高开发效率的技巧吗?”。来来来,这期内容给你安排上,先教你goctl的妙用!前两篇文章分享了Go-Zero微服务快速入门和最佳实践(一)和Go-Zero从0到1实现微服务项目开发(......
  • [JUCE库]关于JUCE如何生成动态链接库 juce-7.0.1-windows
    前言当我们在使用JUCE库的时候,可能会需要使用到静态链接的方式,还好的一点是JUCE本身提供了CMake编译,也提供了单独的sln编译。本文章仅针对juce-7.0.1-windows,由于不同版本之间差异较大,可能不能通用,但主要的不同点都在修改源码那个环节。编译流程找到源码中提供的编译方案修......
  • 《深度学习原理与Pytorch实战》(第二版)(三)11-15章
    第11章神经机器翻译器——端到端机器翻译神经机器翻译,google旗下的NMT编码-解码模型:用编码器和解码器组成一个翻译机,先用编码器将源信息编码为内部状态,再通过解码器将内部状态解码为目标语言。编码过程对应了阅读源语言句子的过程,解码过程对应了将其重组为目标语言的过程——......
  • 洛谷题单指南-动态规划2-P1854 花店橱窗布置
    原题链接:https://www.luogu.com.cn/problem/P1854题意解读:F束花依次放入V个花瓶,每个花瓶最多一朵,且花的顺序在花瓶中递增,计算最大的美学值,并且输出每朵花具体放置方案。解题思路:首先想到的的DFS法,对于每一朵花,枚举所有的摆放方案,累加美学值,并记录放置位置,完成一种方案就记录最......
  • 百舸实践之「埋点数据深度治理与应用」 | 京东云技术团队
    一、背景随着公司和业务的不断发展,百舸平台也从单一内容投放转向了以流量和数据为基础的流量运营模式。在这个转变过程中,数据深度治理与应用的重要性尤为凸显,在数据深度治理过程中,需要将用户行为数据、投放素材以及投放效果三者紧密的串联起来。数据深度治理和应用,一方面满足了当......
  • Echarts -- 实现动态加载series
    Echarts--实现动态加载series:https://blog.csdn.net/m0_74444744/article/details/134467184?ops_request_misc=&request_id=&biz_id=102&utm_term=echarts%20series&utm_medium=distribute.pc_search_result.none-task-blog-2~all~sobaiduweb~default-1-1344671......
  • [992] Remove holes within polygons in a shapefile
    Toremoveholeswithinpolygonsinashapefile,youcanusethegeopandaslibraryinPython.Here'showyoucandoit:importgeopandasasgpd#Readtheshapefilegdf=gpd.read_file('path_to_shapefile.shp')#Removeholeswithinpolygon......