前言
欢迎大家关注有三AI的视频课程系列,我们的视频课程系列共分为5层境界,内容和学习路线图如下:
第1层:掌握学习算法必要的预备知识,包括Python编程,深度学习基础,数据使用,框架使用。
第2层:掌握CV算法最底层的能力,包括模型设计基础,图像分类,模型分析。
第3层:掌握CV算法最核心的方向,包括图像分割,目标检测,图像生成,目标跟踪。
第4层:掌握CV算法最核心的应用,包括人脸图像,图像质量,视频分析,图像编辑。
第5层:掌握算法落地的关键技术,包括模型优化,模型部署。
其中部分课程的主体内容已经更新完毕,比如数据使用/模型分析/图像分类/图像分割/目标检测/图像生成/图像翻译/图像增强/视频分类/模型部署/模型优化/人脸图像检测与识别/人脸属性编辑;部分课程正在重制更新中,比如人脸三维重建;部分课程正在计划上线中,比如通用图像编辑/视觉Transformer/强化学习/半监督与无监督,请大家及时关注!
2023年开始,每周都会有一门课程在当周有9折特惠,本周特惠课程是《深度学习之模型部署-移动端与服务端实践》,特惠价格是314元,目标是帮助大家掌握好深度学习模型在各类平台中的部署问题。
为什么要学习这门课
深度学习模型必须要经过部署到实际的生产环境中,才能产生真正的应用价值。在各类落地场景中,有的是服务端的场景,追求的是更高的精度,更大的模型,更复杂的功能。
有的是嵌入式平台,诸如手机等各类移动端设备、车载设备,追求的是低延迟,小模型。
因此我们进行模型部署的时候,需要各有侧重。当前模型优化和部署的工具非常多,包括TensorRT、NCNN、MNN等;当前的硬件平台也非常多,包括CPU、GPU,Arm、NPU、FPGA等。
为了帮助大家学习深度学习模型部署,有三AI推出《深度学习之模型部署》课程,力争对大部分主流框架,以及典型部署平台进行介绍与实战。
子欲学算法,模型部署是最后的一环!这就是我们这一门课期望帮大家搞定的问题!下面请听课程的详细介绍!
课程内容介绍
本课程内容包括各类深度学习模型部署框架与平台,实践内容非常丰富。
本次课程中一共已经包含了6个平台和框架案例,分别为原生Pytorch在Android手机端部署,NCNN的通用部署,Tengine在EAIDK嵌入式平台上的部署,TensorRT在服务器端的模型优化与部署,微信小程序的前后端完整部署,MNN在Android手机端部署,后续还会增加其他硬件平台与部署框架。
课程大纲如下:
以下为课程案例集中展示:
下面简单了解一下各部分的内容:
(1) 模型部署基础。讲解模型部署的流程与常见的方式,约10分钟,本小节内容可以免费收听。
(2) NCNN部署。NCNN是由腾讯优图实验室推出的为手机端极致优化的高性能神经网络前向计算框架,支持主流的平台和常见的视觉任务。本部分课程包括NCNN框架介绍和模型部署,主要包括NCNN框架特点,环境配置,模型格式转换,NCNN推理案例实现与代码解析,并附带完整的工程代码,约40分钟。
(3) Tengine嵌入式平台部署。Tengine涵盖了模型的加载解析,格式转换,计算图的调度和优化,在多种架构的芯片上高效运行,具有通用,开放,高性能等特点,本部分课程讲解Tengine框架介绍,在EDIDK嵌入式平台上的模型部署,并附带完整的工程代码,约40分钟。
(4) 微信小程序部署。部署到线上现在最轻便且最方便传播的当属微信小程序了,微信小程序依托于微信,不需要下载安装即可使用,本课程内容包括微信小程序部署服务端开发与前端开发的内容,并附带完整的工程代码,约70分钟。
(5) TensorRT模型优化与部署,TensorRT是一个高性能的深度学习推理(Inference)优化器,可以为深度学习应用提供低延迟、高吞吐率的部署推理。本部分课程内容主要包含Tensorrt入门、环境配置与安装、Python/C++接口网络加速实战等,并附带完整的工程代码,约90分钟。
(6) 原生Pytorch Android部署,本部分内容介绍Android Studio的基本使用,安卓控件使用,图片读取与摄像头调用、展示,pytorch模型转换,模型测试与安卓端部署,并附带完整的工程代码,约120分钟。
(7) MNN Android部署,本部分内容介绍MNN框架的编译安装,模型转化与量化加速、手机端部署实例3个部分,并附带完整的工程代码,约60分钟。