首页 > 其他分享 >【2023 · CANN训练营第一季】应用开发深入讲解之模型转换工具

【2023 · CANN训练营第一季】应用开发深入讲解之模型转换工具

时间:2023-05-29 16:35:31浏览次数:46  
标签:resnet50 示例 CANN 模型 第一季 -- framework 2023 input

应用开发深入讲解之模型转换工具

1.基本概念

昇腾张量编译器(Ascend Tensor Compiler,简称ATC)是异构计算架构CANN体系下的模型转换工具, 它可以将开源框架的网络模型或Ascend IR定义的单算子描述文件(json格式)转换为昇腾AI处理器支持的.om格式离线模型。

模型转换过程中,ATC会进行算子调度优化、权重数据重排、内存使用优化等具体操作,对原始的深度学习模型进行进一步的调优,从而满足部署场景下的高性能需求,使其能够高效执行在昇腾AI处理器上。

【2023 · CANN训练营第一季】应用开发深入讲解之模型转换工具_网络模型

2.参数说明

  • --model

填写原始网络模型文件路径与文件名。参数使用参考示例如下:

#Caffe模型
--model=$HOME/module/resnet50.prototxt --weight=$HOME/module/resnet50.caffemodel
#MindSpore模型
--model=resnet50.air
#pb模型
--model=resnet50.pb
#onnx模型
--model=resnet50.onnx
  • --framework

填写原始网络模型框架,参数取值与使用参考示例如下:

#取值为0时,即为Caffe框架网络模型,模型包括后缀为prototxt的模型文件和后缀为caffemodel的权重文件
--framework=0
#取值为1时,即为MindSpore框架网络模型,仅支持后缀为*.air的模型文件。
--framework=1
#取值为3时,即为TensorFlow框架网络模型,只支持尾缀为pb的模型文件
--framework=3
#取值为5时,即为ONNX格式网络模型,仅支持ai.onnx算子域中opset v11版本的算子,用户也可以将其他opseth版本的
算子(比如opset v9),通过PyTorch转换成opset v11版本的ONNX算子;而使用PyTorchi训练出的pth模型需要转化为
ONNX格式的模型,才能进行模型转换。
--framework=5
  • --input_format

填写输入数据格式,Caffe、ONNX默认为NCHW;TensorFlow:默认为NHWC。

该参数一般不需要填写,直接使用默认值即可,但是该参数存在以下限制:

如果TensorFlow模型是通过ONNX模型转换工具输出的,则该参数必填,且值为NCHW。

当原始框架为MindSpore时,只支持配置为NCHW。

如果摸型转换时开启AIPP,在进行推理业务时,输入图片数据要求为NHWC排布,该场景下最终与APP连接的输入节点的格式被强制改成NHWC,可能与atc模型转换命令中--input format参数指定的格式不一致。

#input format参数填写示例
--input format=NCHW
  • --input_shape

填写模型输入输出的shape,格式为"input_name:n,c,h,w";模型输入唯一且shapel固定时,可以不填写该参数。以下情况必须要设置该参数:

a.模型有多个输入,则不同输入之间使用英文分号分隔,例如"input_name1:n1,c1,h1,w1;input_name2:n2,c2,h2,w2"。input_name必须是转换前的网络模型中的节点名称。 b. 原始模型中输入数据的某个维度不固定,例如input_name1:?,h,w,c,该参数必填。其中“?”为batch数,表示一次处理的图片数量,可以直接设置为固定值。

#input shape参数填写示例
--input shape="actual input 1:1,3,224,224"
  • --output 当进行开源框架的网络模型转换时,填写输出的离线模型的路径以及文件名。参数使用参考示例如下:
#指定目录
--output=SHOME/resnet50
#当前目录
--output=resnet50

换后的模型文件名以该参数指定的为准,自动以.om后缀结尾。

  • --insert_op_conf

填写插入算子的配置文件路径与文件名,例如aipp预处理算子。

#aipp预处理
--insert op_conf=aipp.cfg
  • --soc version
    填写模型转换时昇腾AI处理器的版本。参数使用参考示例如下:
#昇腾310A处理器使用示例
--soc version=Ascend310

#昇腾310PAI处理器使用示例
--soc version=Ascend310P3

#昇腾910Al处理器使用示例
--soc version=Ascend910A

3.常见使用命令

#caffe模型,不使用aipp
atc --model=resnet50.prototxt --weight=resnet50.caffemodel --framework=0 --output=resnet50 --soc_version=Ascend310 --input_format=NCHW

#pb模型,不使用aipp
atc --model=resnet50_tensorflow_1.7.pb --framework=3 --output=resnet50 --soc_version=Ascend310

#onnx模型,不使用aipp
atc --model=resnet50.onnx --framework=5 --output=resnet50 --input_shape="actual_input_1:1,3,224,224" --soc_version=Ascend310

#onnx模型,使用aipp
atc --model=resnet50.onnx --framework=5 --output=resnet50 --input_shape="actual_input_1:1,3,224,224" --soc_version=Ascend310 --insert_op_conf=aipp.cfg

标签:resnet50,示例,CANN,模型,第一季,--,framework,2023,input
From: https://blog.51cto.com/u_14125503/6372307

相关文章

  • 【2023 · CANN训练营第一季】应用开发深入讲解之模型离线推理
    应用开发深入讲解之模型离线推理模型离线推理是指使用已经转好的om模型对输入图片进行推理,主要步骤如下图所示:1.Host&Device内存管理与数据传输Host&Device上的内存申请与释放,内存间的相互拷贝。代码中加载输入数据时,需要申请Host内存进行存储,当输入数据处理完毕后,需要将处理完成的......
  • 2023谷歌账号登陆检测到异常活动验证,提示此电话号码无法用于验证的原因深度解析
    谷歌Gmail账号检测到异常活动验证,出现“此电话号码无法用于验证”问题,可能出现在注册时或者注册后使用一段时间。针对注册时无法使用手机号的解决办法,网上已经可以搜到相关文章了。这篇文章将主要针对谷歌账号成功注册一段时间后——Google提示我们检测到您尝试登录的帐户有异常活......
  • 【2023 · CANN训练营第一季】应用开发深入讲解之DVPP
    应用开发深入讲解之DVPP1.基本概念昇腾Al处理器内置图像处理单元DVPP(DigitalVideoPre-Processor),提供强大的媒体处理硬加速能力。主要功能模块有:2.常见接口a.内存申请与释放b.通道创建与释放c.图片描述信息创建与销毁d.图片描述参数设置3.JPEGD图片解码4.VPC视觉预处理......
  • 【2023最新】谷歌账号登陆提示正在通过短信自动验证没有输入框一片空白,多次尝试出现异
    2022在谷歌商店登陆谷歌账号,遇到卡在手机号验证上,谷歌提示正在通过短信自动验证您的电话号码,这可能需要几分钟时间……但是手机上已经收到了谷歌的验证码,却无法进行下一步,页面一片空白没有出现输入框,这是怎么回事?没有下一步可以输入验证码的地方出现,一直停在下图正在验证的界面上。......
  • 2023最新登录谷歌账号通过二步验证的时候提示失败的尝试次数过多,暂时无法登陆,请过几小
    如果你的谷歌账号开启了二步验证,而且过了很长一段时间没去登陆,再次登陆谷歌商店的时候就会卡在短信验证中,界面没有出现输入框,后面继续尝试就会提示失败的尝试次数过多,暂时无法登陆,请过几小时后重试。这种情况应该怎么办?上述这种情况对于网络情况不佳、来回切换登陆、手贱点多了几次......
  • 2023软考中级《数据库工程师》答案(仅供参考)
    上午选择题答案参考红色文字表示暂时还存在疑惑的答案!下午选择题答案参考谢谢各位朋友支持!!!......
  • 3D眼动追踪软件行业市场调研分析报告2023
    2023-2029全球3D眼动追踪软件行业调研及趋势分析报告据调研机构恒州诚思(YH)研究统计,2022年全球3D眼动追踪软件市场规模约亿元,2018-2022年年复合增长率CAGR约为%,预计未来将持续保持平稳增长的态势,到2029年市场规模将接近亿元,未来六年CAGR为%。从核心市场看,中国3D眼动追踪软件市......
  • 车载3D盖板玻璃行业市场调研分析报告2023
    2023-2029全球车载3D盖板玻璃行业调研及趋势分析报告2022年全球车载3D盖板玻璃市场规模约亿元,2018-2022年年复合增长率CAGR约为%,预计未来将持续保持平稳增长的态势,到2029年市场规模将接近亿元,未来六年CAGR为%。汽车3D覆盖玻璃是一种汽车玻璃,旨在为车辆外部提供三维外观。这种......
  • “Fabarta 数据血缘治理解决方案”荣获“2023 鑫智奖”双料奖项
    5月23日,由金科创新社主办、全球金融专业人士协会支持的“2023鑫智奖·第五届金融数据智能优秀解决方案评选”评选结果正式揭晓。Fabarta数据血缘治理解决方案荣获“专家推荐TOP10优秀解决方案”及“数据治理与数据平台创新优秀解决方案”两项奖项。“鑫智奖”是业内颇具权......
  • 2023年铜川宜宾半程马拉松赛-人生首次半马比赛
    1、赛事背景2023年5月21日,我参加了2023年铜川宜宾半程马拉松赛,也是人生首次半马比赛。。很久之前的天气预报就是说要下雨,有的时候更是预报中大雨,所以很担心半马会不会延期举办,还好如期举行了。2023宜君“药谷飘香·康养山城”生态半程马拉松赛在美丽的彭祖药谷欢乐起跑。本次赛......