首页 > 编程语言 >【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!...

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!...

时间:2023-07-04 19:38:13浏览次数:68  
标签:... 部署 微信 模型 TensorRT 学习 Pytorch 课程 NCNN


【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._mnn

前言

欢迎大家关注有三AI的视频课程系列,我们的视频课程系列共分为5层境界,内容和学习路线图如下:

第1层:掌握学习算法必要的预备知识,包括Python编程,深度学习基础,数据使用,框架使用。

第2层:掌握CV算法最底层的能力,包括模型设计基础,图像分类,模型分析。

第3层:掌握CV算法最核心的方向,包括图像分割,目标检测,图像生成,目标跟踪。

第4层:掌握CV算法最核心的应用,包括人脸图像,图像质量,视频分析,图像编辑。

第5层:掌握算法落地的关键技术,包括模型优化,模型部署。

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._深度学习_02

其中部分课程的主体内容已经更新完毕,比如数据使用/模型分析/图像分类/图像分割/目标检测/图像生成/图像翻译/图像增强/视频分类/模型部署/模型优化/人脸图像检测与识别/人脸属性编辑;部分课程正在重制更新中,比如人脸三维重建;部分课程正在计划上线中,比如通用图像编辑/视觉Transformer/强化学习/半监督与无监督,请大家及时关注!

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._python_03

2023年开始,每周都会有一门课程在当周有9折特惠,本周特惠课程是《深度学习之模型部署-移动端与服务端实践》,特惠价格是314元,目标是帮助大家掌握好深度学习模型在各类平台中的部署问题。

为什么要学习这门课

深度学习模型必须要经过部署到实际的生产环境中,才能产生真正的应用价值。在各类落地场景中,有的是服务端的场景,追求的是更高的精度,更大的模型,更复杂的功能。

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_04

有的是嵌入式平台,诸如手机等各类移动端设备、车载设备,追求的是低延迟,小模型。

因此我们进行模型部署的时候,需要各有侧重。当前模型优化和部署的工具非常多,包括TensorRT、NCNN、MNN等;当前的硬件平台也非常多,包括CPU、GPU,Arm、NPU、FPGA等。

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_05

为了帮助大家学习深度学习模型部署,有三AI推出《深度学习之模型部署》课程,力争对大部分主流框架,以及典型部署平台进行介绍与实战。

子欲学算法,模型部署是最后的一环!这就是我们这一门课期望帮大家搞定的问题!下面请听课程的详细介绍!

课程内容介绍

本课程内容包括各类深度学习模型部署框架与平台,实践内容非常丰富。

本次课程中一共已经包含了6个平台和框架案例,分别为原生Pytorch在Android手机端部署,NCNN的通用部署,Tengine在EAIDK嵌入式平台上的部署,TensorRT在服务器端的模型优化与部署,微信小程序的前后端完整部署,MNN在Android手机端部署,后续还会增加其他硬件平台与部署框架。

课程大纲如下:

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_06


以下为课程案例集中展示:

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_07

下面简单了解一下各部分的内容:

(1) 模型部署基础。讲解模型部署的流程与常见的方式,约10分钟,本小节内容可以免费收听

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._pytorch_08

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_09

(2) NCNN部署。NCNN是由腾讯优图实验室推出的为手机端极致优化的高性能神经网络前向计算框架,支持主流的平台和常见的视觉任务。本部分课程包括NCNN框架介绍和模型部署,主要包括NCNN框架特点,环境配置,模型格式转换,NCNN推理案例实现与代码解析,并附带完整的工程代码,约40分钟。

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._python_10

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_11

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_12

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._mnn_13

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._python_14

(3) Tengine嵌入式平台部署。Tengine涵盖了模型的加载解析,格式转换,计算图的调度和优化,在多种架构的芯片上高效运行,具有通用,开放,高性能等特点,本部分课程讲解Tengine框架介绍,在EDIDK嵌入式平台上的模型部署,并附带完整的工程代码,约40分钟。

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._python_15

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._深度学习_16

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_17

(4) 微信小程序部署。部署到线上现在最轻便且最方便传播的当属微信小程序了,微信小程序依托于微信,不需要下载安装即可使用,本课程内容包括微信小程序部署服务端开发与前端开发的内容,并附带完整的工程代码,约70分钟。

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_18

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._mnn_19

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._mnn_20

(5) TensorRT模型优化与部署,TensorRT是一个高性能的深度学习推理(Inference)优化器,可以为深度学习应用提供低延迟、高吞吐率的部署推理。本部分课程内容主要包含Tensorrt入门、环境配置与安装、Python/C++接口网络加速实战等,并附带完整的工程代码,约90分钟。

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_21

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._mnn_22

(6) 原生Pytorch Android部署,本部分内容介绍Android Studio的基本使用,安卓控件使用,图片读取与摄像头调用、展示,pytorch模型转换,模型测试与安卓端部署,并附带完整的工程代码,约120分钟。

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._pytorch_23

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._深度学习_24

(7) MNN Android部署,本部分内容介绍MNN框架的编译安装,模型转化与量化加速、手机端部署实例3个部分,并附带完整的工程代码,约60分钟。

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._人工智能_25

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._mnn_26

【本周特惠课程】深度学习6大模型部署场景(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)速成!..._pytorch_27


标签:...,部署,微信,模型,TensorRT,学习,Pytorch,课程,NCNN
From: https://blog.51cto.com/u_14122493/6624472

相关文章

  • 【C++】关于常引用的问题 #什么是权限放大?权限放小?隐式或强制转换居然还有这一步?...#
    前言引用在c++中的使用非常常见,可以说是很重要的,引用的常引用相关的问题让很多人稍不留神就出错了,这里我们就来谈谈常引用的问题。关于权限关于权限有权限缩小和权限放大的问题,比如一个文件,当初它只有读的权限,而现在你给它再加个写的权限,这就是权限放大;又或当初它读,写的权限......
  • 先验框的生成(Pytorch)
      在学习动手学CV-Pytorch的先验框部分内容时,需要生成一个先验框,这里在学习后对先验框以及生成的代码做解释。关于先验框  在众多目标检测模型模型中,都有先验框的存在,在FasterRCNN中称之为锚点(Anchor),在SSD中称之为先验框(priorboundingbox)。简单来讲,先验框就是预先设......
  • 直播软件开发,TextView内容过多,超过n行显示“...全文”
    直播软件开发,TextView内容过多,超过n行显示“...全文” /**   *TextView超过两行,末尾显示"...全文"   *为避免抖动,需在xml中设置TextView的maxHeight   *@parammaxLine最多几行   *@paramstrNum 末尾显示字符数   *@paramstr 末尾显示字......
  • AI_Pytorch_参数空间
    AI算法构成DatasetModelTrainInferDeploy解耦:模型训练过程中保存的模型文件是包含前向预测和反向传播的过程,在实际的工业部署则不需要反向传播,因此需要将模型进行导成部署需要的模型格式配置化:配置都会包含三个主要内容:数据配置、网络模型、训练策略Mod......
  • pytorch的学习
    三种编译方式的优缺点 Pytroch中的加载数据主要涉及了两个类,一个叫Dataset,一个叫Dataloader.举一个不恰当的例子,我们要在诸多的垃圾(数据)中找到我们所需要的垃圾(数据),Dataset就是将其中的可回收垃圾提取出来,并且将它们进行编号,同时可以根据编号获取相对应的垃圾,同时获取相......
  • PyTorch项目实战09——CIFAR10数据的读取和展示
    1CIFAR10cifar10的官方网址:<http://www.cs.toronto.edu/~kriz/cifar.html>是由32\*32像素的60000张图片组成的数据集,50000张图片用于训练,10000张图片用于测试,其中有10个类别,每个类别有6000张图片,分类之间彼此独立,不会重叠,因此是一个单标签多分类的问题。2读取CIFAR10数据首先在......
  • 03常用pytorch剪枝工具
    常用剪枝工具pytorch官方案例importtorch.nn.utils.pruneaspruneimporttorchfromtorchimportnnimporttorch.nn.utils.pruneaspruneimporttorch.nn.functionalasFprint(torch.__version__)device=torch.device("cuda"iftorch.cuda.is_available()els......
  • pytorch保存单通道灰度图片
    前言importtorchimporttorchvision.transformsastransformsfromtorchvision.utilsimportsave_imageimage=torch.randn(1,256,256)#示例,随机生成一个单通道图像#将图像张量保存为文件save_image(image,"single_channel_image.png",normalize=True)pytorch中......
  • 怎样导入pytorch gpu版本?
    1.下载anaconda2.在anaconda里创建环境create-npytorch_gpu#激活环境condaactivatepytorch_gpu3.在环境里install修改镜像接下来就是关键一步了,把-cpytorch表示的pytorch源,更改为国内的镜像。https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/先浏......
  • 使用numpy实现bert模型,使用hugging face 或pytorch训练模型,保存参数为numpy格式,然后使
     之前分别用numpy实现了mlp,cnn,lstm,这次搞一个大一点的模型bert,纯numpy实现,最重要的是可在树莓派上或其他不能安装pytorch的板子上运行,推理数据本次模型是随便在huggingface上找的一个新闻评论的模型,7分类看这些模型参数,这并不重要,模型占硬盘空间都要400+Mbert.embeddings.w......