首页 > 其他分享 >C-模型压缩部署概述

C-模型压缩部署概述

时间:2022-10-14 18:45:21浏览次数:54  
标签:训练 框架 推理 压缩 概述 NPU 优化 模型

一,模型在线部署

深度学习和计算机视觉方向除了算法训练/研究,还有两个重要的方向: 模型压缩(模型优化、量化)、模型部署(模型转换、后端功能SDK开发)。所谓模型部署,即将算法研究员训练出的模型部署到具体的端边云芯片平台上,并完成特定业务的视频结构化应用开发。

现阶段的平台主要分为云平台(如英伟达 GPU)、手机移动端平台(ARM 系列芯片)和其他嵌入式端侧平台(海思 3519、安霸 CV22、地平线 X3、英伟达 jetson tx2 等芯片)。对于模型部署/移植/优化工程师来说,虽然模型优化、量化等是更有挑战性和技术性的知识,但是对于新手的我们往往是在做解决模型无法在端侧部署的问题,包括但不限于:实现新 OP、修改不兼容的属性、修改不兼容的权重形状、学习不同芯片平台的推理部署框架等。对于模型转换来说,现在行业主流是使用 CaffeONNX 模型作为中间模型。

1.1,深度学习项目开发流程

在高校做深度学习 demo 应用一般是这样一个过程,比如使用 Pytorch/TensorFlow 框架训练出一个模型,然后直接使用 Pytorch 框架做推理(test)完成功能验证,但是在工业界这是不可能的,因为这样模型推理速度很慢,一般我们必须有专门的深度学习推理加速框架去做模型推理(inference)。以 GPU 云平台推理框架 TensorRT 为例,简单描述模型训练推理过程就是:训练好网络模型(权重参数数据类型为 FP32)输入 TensorRT,然后 TensorRT 做解析优化,并进行在线推理和输出结果。两种不同的模型训练推理过程对比如下图所示:

训练和推理.jpg

前面的描述较为简单,实际在工业届,理想的深度学习项目开发流程应该分为三个步骤: 模型离线训练、模型压缩和模型在线部署,后面两个步骤互有交叉,具体详情如下:

  1. 模型离线训练:实时性低,数据离线且更新不频繁,batchsize 较大,消耗大量 GPU 资源。

    • 设计开发模型网络结构;
    • 准备数据集并进行数据预处理、EDA 等操作;
    • 深度学习框架训练模型:数据增强、超参数调整、优化器选择、训练策略调整(多尺度训练)、TTA、模型融合等;
    • 模型测试。
  2. 模型优化压缩:主要涉及模型优化、模型转换、模型量化和模型编译优化,这些过程很多都在高性能计算推理框架中集成了,各个芯片厂商也提供了相应的工具链和推理库来完成模型优化压缩。实际开发中,在不同的平台选择不同的推理加速引擎框架,比如 GPU 平台选择 TensorRT,手机移动端(ARM)选择 NCNN/MNNNPU 芯片平台,如海思3519、地平线X3、安霸CV22等则直接在厂商给出的工具链进行模型的优化(optimizer)和压缩。

    • 模型优化 Optimizer:主要指计算图优化。首先对计算图进行分析并应用一系列与硬件无关的优化策略,从而在逻辑上降低运行时的开销,常见的类似优化策略其包括:算子融合(conv、bn、relu 融合)、算子替换、常数折叠、公共子表达式消除等。
    • 模型转换 ConverterPytorch->CaffePytorch->ONNXONNX模型->NCNN/NPU芯片厂商模型格式(需要踩坑非常多,PytorchONNXNPU 三者之间的算子要注意兼容)。注意 ONNX 一般用作训练框架和推理框架之间转换的中间模型格式。
    • 模型量化 Quantizer:主要指训练后量化(Post-training quantization PTQ);权重、激活使用不同的量化位宽,如速度最快的量化方式 w8a8、速度和精度平衡的量化方式 w8a16
    • 模型编译优化(编译优化+NPU 指令生成+内存优化)Compiler模型编译针对不同的硬件平台有不同优化方法,与前面的和硬件无关的模型层面的优化不同。GPU平台存在 kernel fusion 方法;而 NPU 平台算子是通过特定二进制指令实现,其编译优化方法包括,卷积层的拆分、卷积核权重数据重排、NPU 算子调优等。
  3. 模型部署/SDK输出: 针对视频级应用需要输出功能接口的SDK。实时性要求高,数据线上且更新频繁,batchsize 为 1。主要需要完成多模型的集成、模型输入的预处理、非DL算法模块的开发、 各个模块 pipeline 的串联,以及最后 c 接口(SDK)的输出。

    • 板端框架模型推理: InferenceC/C++。不同的 NPU 芯片/不同的公司有着不同的推理框架,但是模型的推理流程大致是一样的。包括:输入图像数据预处理、加载模型文件并解析、填充输入图像和模型权重数据到相应地址、模型推理、释放模型资源。这里主要需要学习不同的模型部署和推理框架。
    • pipeline 应用开发: 在实际的深度学习项目开发过程中,模型推理只是其中的基础功能,具体的我们还需要实现多模型的集成、模型输入前处理、以及非 DL 算法模块的开发: 包括检测模块、跟踪模块、选帧模块、关联模块和业务算法模块等,并将各模块串联成一个 pipeline,从而完成视频结构化应用的开发。
    • SDK集成: 在完成了具体业务 pipeline 的算法开发后,一般就需要输出 c 接口的 SDK 给到下层的业务侧(前后端)人员调用了。这里主要涉及 c/c++ 接口的转换、pipeline 多线程/多通道等sample的开发、以及大量的单元、性能、精度、稳定性测试。
    • 芯片平台板端推理 Inference,不同的 NPU 芯片有着不同的 SDK 库代码,但是模型运行流程类似。

不同平台的模型的编译优化是不同的,比如 NPU 和一般 GPU 的区别在于后端模型编译上,GPU 是编译生成 kernel library(cuDNN 函数),NPU 是编译生成二进制指令;前端的计算图优化没有本质区别,基本通用。

所以综上所述,深度学习项目开发流程可以大致总结为三个步骤: 模型离线训练模型优化压缩模型部署/SDK输出,后两个步骤互有交叉。前面 2 个步骤在 PC 上完成,最后一个步骤开发的代码是需要在在 AI 芯片系统上运行的。最后以视差模型在海思 3519 平台的部署为例,其模型部署工作流程如下:

视差模型在海思3519平台部署工作流程.png

1.2,模型训练和推理的不同

为了更好进行模型优化和部署的工作,需要总结一下模型推理(Inference)和训练(Training)的不同:

  1. 网络权重值固定,只有前向传播(Forward),无需反向传播,因此:
    • 模型权值和结构固定,可以做计算图优化,比如算子融合等;
    • 输入输出大小固定,可以做 memory 优化,比如 feature 重排和 kernel 重排。
  2. batch_size 会很小(比如 1),存在 latency 的问题。
  3. 可以使用低精度的技术,训练阶段要进行反向传播,每次梯度的更新是很微小的,需要相对较高的精度比如 FP32 来处理数据。但是推理阶段,对精度要求没那么高,现在很多论文都表明使用低精度如 in16 或者 int8 数据类型来做推理,也不会带来很大的精度损失。

二,手机端CPU推理框架的优化

对于 HPC 和软件工程师来说,在手机 CPU 端做模型推理框架的优化,可以从上到下考虑:

  1. 算法层优化:最上面就是算法层,如可以用winograd从数学上减少乘法的数量(仅在大channel尺寸下有效);
  2. 框架优化:推理框架可以实现内存池、多线程等策略;
  3. 硬件层优化:主要包括: 适应不同的硬件架构特性、pipelinecache优化、内存数据重排、NEON 汇编优化等。

三,参考资料

  1. 《NVIDIA TensorRT 以及实战记录》PPT

标签:训练,框架,推理,压缩,概述,NPU,优化,模型
From: https://www.cnblogs.com/armcvai/p/16792606.html

相关文章

  • B-神经网络模型复杂度分析
    目录结构一,模型计算量分析二,模型参数量分析三,一些概念四,参考资料前言现阶段的轻量级模型MobileNet/ShuffleNet系列、CSPNet、RepVGG、VoVNet等都必须依赖于于具......
  • linux tar 解压缩相关
    linuxtar解压缩相关tar压缩示例tar–cvffile.tardir/files#将dir里files文件打包tar-zcvftarame.tar.gzdir/files#将dir/files压缩#z用gzip压缩,#c另......
  • 项目概述、部署数据库服务mysql、配置网站服务、测试配置
    Project3_day01知识点:一、准备数据库服务器二、搭建数据库服务器三、配置MySQL主从同步四、配置读写分离服务器五、配置数据库服务器六、配置网站服务器七、测试配......
  • 部署 GitLab、配置 GitLab、CI/CD 概述、部署 Jenkins
    版本控制版本库版本控制是一种记录一个或若干文件内容变化,以便将来查阅特定版本修订情况的系统。简单来说,就是为目录打快照。将来可以回到某一个历史记录点。是一个典型的......
  • 第二章 Golang的概述
    2.1什么是程序whyisGo语言?Go语言是区块链最主流的编程语言,同时也是当前最具发展潜力的语言。Go语言是Google公司创造的语言,也是Google主推的语言。国外如Google、AWS、......
  • java语言概述
    java语言的平台版本1JavaSE标准版2JAVAEE企业版3JAVAME小型版电脑的两种操作方式1图形化界面2命令行(功能更强大)在黑窗口转换路径:d:加回车    查看当前......
  • linux解压文件和创建压缩文件
    约定:FileName表示文件名,不能是目录名name表示可以是文件名,也可以是目录名。DirName表示目录名。温馨提示:可以用vim预览压缩包里的东西,例如vim防止解压出一堆散的文件污......
  • 矩阵的压缩存储
    数据结构中,提供针对某些特殊矩阵的压缩存储结构。这里所说的特殊矩阵,主要分为以下两类:含有大量相同数据元素的矩阵,比如对称矩阵;含有大量0元素的矩阵,比如稀疏矩阵......
  • 使用Mask R-CNN模型实现人体关键节点标注
    摘要:在本案例中,我们将展示如何对基础的MaskR-CNN进行扩展,完成人体关键节点标注的任务。本文分享自华为云社区《使用MaskR-CNN模型实现人体关键节点标注》,作者:运气男孩......
  • Unity 在模型上展示标签UI
    voidUpdate(){this.transform.LookAt(Camera.main.transform);}   在主摄像机下设置一个子摄像机,主摄像机CullingMask去掉显示UI。子摄像机Cul......