• 2024-01-05MegEngine 11-12 双月报:新版本发布,开发者福利课程,MegEngine 使用技巧,精彩不容错过!
    ●v1.13.3新版本发布https://github.com/MegEngine/MegEngine/releases/tag/v1.13.3●「MegEngine开发者说」-编译器上手指南,算子开发及开源项目指导手册https://www.bilibili.com/video/BV1LC4y1T7mz/●《MegEngine优化dataloader使用体验!datamonitor帮助更好定位性
  • 2023-12-19MegEngine 优化 dataloader 使用体验!data monitor 帮助更好定位性能瓶颈
    业务模型训练中Data部分可能是瓶颈所在在训练业务模型过程中,如果我们发现模型的训练速度不符合预期,往往会下意识地认为网络本身出了问题。但实际上,大多数时候问题发生在模型的数据供给逻辑中。区分一个训练过程的瓶颈到底是在准备数据,还是在网络的计算阶段其实是很简单的。比
  • 2023-12-13MegEngine 正式支持 XLA 啦!
    XLA(AcceleratedLinearAlgebra)是Google提出的一个神经网络编译器,可以用于加速AI模型的训练和推理。MegEngine1.13.1中也已经支持了XLA,在训练模型时可以选择开启此项功能,不同的模型可以获得10%~80%不等的速度提升。主要的目标场景MegEngine现在是动态执行的,即python
  • 2023-12-07编译器上手指南,算子开发及开源项目指导手册,直播课程报名通道限时开启!
    「MegEngine开发者说」直播课程第二期火爆来袭!本期既有技术大佬带来深度学习编译器MegCC的详细教程,又有实习经历丰富的在校同学分享MegEngine算子开发流程及开源经历,手把手带你学习,精彩不容错过!更有直播间有奖答疑,现在报名,即有机会获得MegEngine周边大礼包!关于「MegEngi
  • 2023-11-03MegEngine 9-10 双月报:新版本发布,AI 生态升级,不容错过!
    ●v1.13.2新版本发布<https://github.com/MegEngine/MegEngine/releases/tag/v1.13.2>●MegCC新版本发布<https://github.com/MegEngine/MegCC/releases/tag/v0.1.6>●DataFunSummit2023:AI基础软件架构峰会《MegEngine训练性能优化与AI编译实践》主题演讲<https://w
  • 2023-09-01MegEngine 7-8 双月报来啦:新版本发布,开发者福利课程,干货满满
    v1.13.1新版本发布MegCC新版本发布【MegEngine使用小技巧】系列文章1.《MegEngine使用小技巧:如何使用MegCC进行模型编译》2.《MegEngine使用小技巧:Profiler使用手册》Imperative介绍专栏1.《MegEnginePython层模块串讲(上)》2.《MegEnginePython层模块串讲(中)》3.《Meg
  • 2023-08-30MegEngine 使用小技巧:Profiler使用手册
    0.写在前面“xx,R那边反应多机训练速度慢,你看一下什么情况”“xxx,为什么MGE更新之后,xxx网络训练变慢了,你看一下”这是组内日常对话然后有人日常背锅组员的状态是:提性能,提性能,还是TMD提性能据不完全统计,有80%的性能问题其实是因为训练代码写的不够好,让MGE有力使不出
  • 2023-08-26MegEngine 开发者说|SAM 带来的思考与未来,实习宝典,精彩课程干货满满
    你是否需要AI初学者入门级的开源教程?你是否期待和顶尖开发者一起学习,向深度学习领域的大佬看齐?你是否希望通过课程讲解,了解项目实践,掌握深度学习、大模型相关的前沿AI技术?如果你的答案是肯定的,那么「MegEngine开发者说」系列课程正是你想要的!「MegEngine开发者说」是由旷视
  • 2023-08-26开源项目分享,实习宝典传授,直播课程报名开启!
    你是否需要AI初学者入门级的开源教程?你是否期待和顶尖开发者一起学习,向深度学习领域的大佬看齐?你是否希望通过课程讲解,了解项目实践,掌握深度学习、大模型相关的前沿AI技术?如果你的答案是肯定的,那么「MegEngine开发者说」系列课程正是你想要的!「MegEngine开发者说」是由
  • 2023-08-17如何阅读并学习 MegEngine 的代码
    旷视开源的深度学习框架 MegEngine,MegEngine是一个快速、可拓展、易于使用且支持自动求导的深度学习框架。以最新的release版本release-1.13.0为例介绍一下MegEngine的代码结构以及如何学习MegEngine的代码。1.编译对于学习大型项目,我们建议源码编译项目而不是直接安装
  • 2023-07-31MegEngine Python 层模块串讲(下)
    在前面的文章中,我们简单介绍了在 MegEngineimperative 中的各模块以及它们的作用。对于新用户而言可能不太了解各个模块的使用方法,对于模块的结构和原理也是一头雾水。Python 作为现在深度学习领域的主流编程语言,其相关的模块自然也是深度学习框架的重中之重。模块串讲将对 
  • 2023-07-28MegEngine Python 层模块串讲(中)
    在前面的文章中,我们简单介绍了在 MegEngineimperative 中的各模块以及它们的作用。对于新用户而言可能不太了解各个模块的使用方法,对于模块的结构和原理也是一头雾水。Python 作为现在深度学习领域的主流编程语言,其相关的模块自然也是深度学习框架的重中之重。模块串讲将对 
  • 2023-07-21MegEngine Python 层模块串讲(上)
    在前面的文章中,我们简单介绍了在 MegEngineimperative 中的各模块以及它们的作用。对于新用户而言可能不太了解各个模块的使用方法,对于模块的结构和原理也是一头雾水。Python 作为现在深度学习领域的主流编程语言,其相关的模块自然也是深度学习框架的重中之重。模块串讲将对 
  • 2023-07-06MegEngine 使用小技巧:如何使用 MegCC 进行模型编译
    MegEngine 作为一个训推一体的AI框架,为用户提供了模型训练以及部署的能力。但是在部署模型时,由于会存在对于部署的模型计算来说不必要的代码,导致SDK体积比较大。为了解决上述问题,我们提供了新的工具:AI编译器 MegCC。MegCC有以下特性:只生成完成输入模型计算的必要的ke
  • 2023-06-16MegEngine 动态执行引擎 Imperative Runtime 架构解析
    在之前的文章中我们介绍过 MegEngine 的 ImperativeRuntime 以及它与 MegBrain、MegDNN 的关系,这篇文章中我们将介绍 Imperative 中包含的常用组件。在 MegEngine 中,从用户在 python 层编写代码到在 interpreter 层发生计算经过了下面的流程:用户在 python 层
  • 2023-06-14MegEngine 使用小技巧:如何做 MegCC 的模型性能评测
    MegCC 是一个深度学习模型编译器,具有以下特点:极轻量级运行时:只在二进制文件中保留所需的计算内核。例如,MobileNetv1的81KB运行时间高性能:每个操作都经过专家精心优化便携:只生成计算代码,易于在Linux、Android、TEE、BareMetal上编译和使用LowMemoryUsagewhileBootIn
  • 2023-05-30MegEngine 使用小技巧:如何解读 MegCC 编译模型几个阶段 Pass 的作用
    MegCC 是一个真真实实的深度学习模型编译器,具备极其轻量的Runtime二进制体积,高性能,方便移植,极低内存使用以及快启动等核心特点。用户可在MLIR上进行计算图优化,内存规划,最后通过预先写好的code模版进行代码生成。MegCC中主要的PassMGBToKernelPass:这个Pass主要将MGB
  • 2023-05-122023 开源之夏来啦!报名 MegEngine 项目,赢取万元奖金!
    “开源软件供应链点亮计划-暑期2023”是一项面向高校学生的暑期活动,为高校学生提供了绝佳的、友好开放的交流平台。使学生可以真正投身于开源软件的开发维护,得到资深开源软件开发者指导的机会,获得丰硕的活动奖金,并帮助学生获取优秀企业的关注。活动流程同学们在6月4日之前在
  • 2023-04-25MegEngine 使用小技巧:量化
    常见神经网络模型所用的Tensor数据类型一般是float32类型,而工业界出于对特定场景的需求(极少的计算资源,极致的推理速度),需要把模型的权重和或激活值转换为位数更少的数值类型(比int8,float16)——整个过程被称为量化(Quantization)。通常以浮点模型为起点,经过中间的量化处理后
  • 2023-04-25MegEngine 使用小技巧:量化
    常见神经网络模型所用的Tensor数据类型一般是float32类型,而工业界出于对特定场景的需求(极少的计算资源,极致的推理速度),需要把模型的权重和或激活值转换为位数更少的数值类型(比int8,float16)——整个过程被称为量化(Quantization)。通常以浮点模型为起点,经过中间的量化处理
  • 2023-04-13MegEngine 使用小技巧:使用 Optimizer 优化参数
    神经网络的学习的目的是找到使损失函数的值尽可能小的参数。这是寻找最优参数的问题,解决这个问题的过程称为优化(optimization)。而由于参数空间复杂、参数数量庞大等原因,使得神经网络的优化问题非常难。MegEngine的optimizer模块中实现了大量的优化算法,其中Optimizer是所有优
  • 2023-04-13MegEngine 使用小技巧:使用 Optimizer 优化参数
    神经网络的学习的目的是找到使损失函数的值尽可能小的参数。这是寻找最优参数的问题,解决这个问题的过程称为优化(optimization)。而由于参数空间复杂、参数数量庞大等原因,使得神经网络的优化问题非常难。MegEngine的optimizer模块中实现了大量的优化算法,其中Optimizer是所有
  • 2023-03-30如何使用 MegEngine 生态落地一个算法
    在当今人工智能领域,深度学习算法已经广泛应用于图像处理、自然语言处理、语音识别等各种领域。然而,实现一个高效的深度学习算法需要运用大量的技术和工具,并要面临着许多挑战,如训练计算资源消耗大,模型转换难,高效快捷的推理部署等问题。MegEngine作为一个训推一体的深度学习框架,其
  • 2023-03-09MegEngine 使用小技巧:借助 DataLoader 获取分批数据
    在使用MegEngine进行模型训练时,首先要进行的是数据加载和预处理。在此过程中,MegEngine中的megengine.data模块,提供了数据分批功能,其内部实现流程如下图:通过使用Datal
  • 2023-02-24MegEngine 使用小技巧:使用 Netron 实现模型可视化
    近期社区有多个同学问,如何查看MegEngine训练出的模型网络结构。其实在去年8月,MegEngine就已经集成到了Netron平台上。目前Netron已支持MegEngine模型:TracedMod