首页 > 其他分享 >PyTorch学习记录(三):onnx模型部署

PyTorch学习记录(三):onnx模型部署

时间:2023-03-15 10:48:30浏览次数:68  
标签:onnx 模型 PyTorch num params print model

原则:

Python for Training
C++ for Inference

PyTorch模型导出:
PyTorch使用.pth文件来对神经网络的权重进行保存,.pth文件中的模型权重则是按照字典格式进行保存的,但是.pth文件中没有网络的结果信息。需要借助开放神经网络交换(Open Neural Network Exchange, ONNX)框架将模型导出为结构和权重完整的.onnx文件。

模型参数量

model = FPN()
num_params = sum(p.numel() for p in model.parameters())
print("num of params: {:.2f}k".format(num_params/1000.0))
# torch.numel()返回tensor的元素数目,即number of elements

打印模型

model = FPN()
num_params = sum(p.numel() for p in model.parameters())
print("num of params: {:.2f}k".format(num_params/1000.0))
print("===========================")
#for p in model.parameters():
#    print(p.name)
print(model)

参考资料

标签:onnx,模型,PyTorch,num,params,print,model
From: https://www.cnblogs.com/Todd-Qi/p/16822702.html

相关文章

  • 在MBP上运行推理LLaMA-7B模型
    在MBP上运行推理LLaMA-7B模型#buildthisrepogitclonehttps://github.com/ggerganov/llama.cppcdllama.cpp#obtaintheoriginalLLaMAmodelweightsandplac......
  • Cesium 与 Babylon.js 可视化 复制一个模型
    我决定不从Babylonjs基础来讲了直接整合cesium与babylonjs可视化来讲我整合一个类库后续不断更新中npmi@haibalai/cesium-babylonjs 初始化cesium-babylonjs......
  • 光流:用RAFT模型预测的移动
    光流是预测两个图像之间运动的任务,通常是视频的两个连续帧。光流模型以两张图像作为输入,并预测一个流:流表示第一张图像中每一个像素的位移,并将其映射到第二张图像中对应的......
  • 深度学习模型压缩方法总结
    一,模型压缩技术概述1.1,模型压缩方法分类1.2,模型压缩方法举例二,知识蒸馏三,轻量级模型架构3.1,如何设计高效CNN架构一些结论一些建议3.2,轻量级模型部署总结......
  • 财政收入影响因素分析及预测模型
    summary#-*-coding:utf-8-*-#代码6-1importnumpyasnpimportpandasaspdinputfile='E:\Thirdwork\数据代码\chapter6\demo\data\data.csv'#输入的数据文......
  • Unity 操作3D模型旋转+放大+移动
    一、鼠标控制3D物体移动1.使用协程usingSystem.Collections;usingSystem.Collections.Generic;usingUnityEngine;publicclassControlMove:MonoBehaviour{......
  • 快速上手Meta大语言模型LLaMA,构建“本地化ChatGPT”
    近期,Meta发布了人工智能大语言模型LLaMA,包含70亿、130亿、330亿和650亿这4种参数规模的模型。其中,最小的LLaMA7B也经过了超1万亿个tokens的训练。本文我们将以7B模型为例,分......
  • CAD中如何打印三维模型的消隐或着色效果?CAD打印设置技巧
    有些小伙伴在CAD软件中绘制完一些简单的三维模型后,打印后三维模型的消隐和着色效果没了,全部变成了线框,这是什么情况?CAD中怎么打印三维模型的消隐或着色效果?本节内容就和小......
  • GPT-4:下一代语言模型
    你是否曾经想过,如果有一个人工智能可以为你生成任何类型的文本,无论是一篇文章、一首诗、一段代码,甚至是一段视频,你会怎么做?这听起来可能像是科幻小说中的情节,但事实上,这种......
  • 知识图谱-TransE模型原理
    1.TransE模型介绍1.1TransE模型引入知识图谱补全任务的前提任务是知识表示学习,在知识表示学习中,最为经典的模型就是TransE模型,TransE模型的核心作用就是将知识图谱中的三......