MNN
  • 2024-08-22关于MNN的OPENCL和Vulkan支持
    关于MNN框架推理的时候,通过调用库当中结构体的内容,可以切换选择创建Session的具体配置。关于结构的描述见官方文档:官方文档——创建SessionCPU是编译的时候默认选择的配置方式,通过文档可知在结构体:MNN::ScheduleConfig当中有可以选择的2个成员,分别是:type(配置方式)numThread(
  • 2024-08-21机器学习框架推理流程简述(以一项部署在windows上的MNN框架大模型部署过程为例子)
    一、写在前面公司正好有这个需求,故我这边简单接受进行模型的部署和demo程序的编写,顺便学习了解整个大模型的部署全流程。这篇博客会简单提到大模型部署的全流程,侧重点在推理这里。并且这篇博客也是结合之前的MNN部署流程来编写的,最好连下来一起看。MNN框架在WIN10上的部署MNN框
  • 2024-08-19关于MNN工程框架编译出来的静态库和动态库的使用
    一、MNN.lib文件路径如果你看过之前的博客内容,应该可以在编译的的工程当中C:\Users\Administrator\Desktop\MNN\MNN-master\MNN-CPU-OPENCL\lib\x64\lib\x64该路径下面找到debug和release两个文件夹。进入到release文件夹下面有Dynamic和Static两个文件夹,分别代表编译出来的
  • 2024-08-17MNN框架在Win10上的部署,支持OpenGL和Vulkan
    上篇记录了之前在win10上部署的流程,不过在camke的时候没有选择支持OpenGL和Vulkan。这里重新按照官方的语雀文档重新进行支持OpenGL和Vulkan的编译,简单做个记录。如果有其他的问题见上一篇博客。参见官方文档:推理框架Windows编译执行代码如下:cd/path/to/MNNpowershell#运行
  • 2024-08-17MNN框架在WIN10上的部署
    一、为什么要做刚进公司,实习期反正主管要求什么我就做什么。。。。自己反正也比较感兴趣,故开始查看官方文档。下述的一切都是基于官方提供的“语雀文档”内的指令进行的,会对自己部署MNN框架的流程当中踩的坑进行记录,希望可以帮助到有缘人。二、具体内容1、在各个应用端部署MNN
  • 2024-08-16MNN框架在windows上的部署
    一、MNN.lib文件等的生成算是第一次接触MNN框架部署这部分内容吧,对整个流程都不是很理解,故先从官方文档入手先从github下载官方的项目,地址为:https://github.com/alibaba/MNN使用visualstudio的powershell打开,执行官网给出的指令cdpath/to/MNNpowershell./schema/generat
  • 2024-03-28MNN:轻量级深度学习推理框架的优雅之选
    在深度学习领域,推理框架的选择对于模型的应用至关重要。MNN,作为阿里巴巴开源的一款轻量级深度学习推理框架,凭借其出色的性能和易用性,逐渐成为了众多开发者的首选。本文将为大家详细介绍MNN的特点、安装及编译过程,带您领略这一优雅之选的魅力。一、MNN:轻量级推理框架的璀璨
  • 2023-01-30【KAWAKO】MNN-1.2.0版本交叉编译遇到的错误与解决方法
    目录在使用gcc-linaro-7.5.0-aarch64-linux-gnu、gcc-linaro-6.3.1-aarch64-linux-gnu交叉编译链对MNN1.2.0进行交叉编译的过程中,make的时候遇到了一个报错。error:can
  • 2023-01-29【KAWAKO】MNN-将推理程序交叉编译成RK1126的可执行文件
    目录得到RK交叉编译器将交叉编译器添加进path对MNN进行交叉编译对自己的工程进行交叉编译将编译好的可执行文件和.so动态库放入板子中运行得到RK交叉编译器主要用到这两
  • 2022-11-04Codeforces Round #776 (Div. 3) E
    E.ReschedulingtheExam显然我们能想到的每次操作都是先将最小的取出来操作要是我们有两个数都是最小的我们只有相邻的时候才能操作要是大于两个那我们就不管怎么操
  • 2022-09-2848、mmpose关键点识别模型转ncnn和mnn,并进行训练和部署
    基本思想:需要一个关键点识别模型,在权衡simplepose、paddlepose、mmpose之后,发现simplepose需要mxnet(qiuqiu大佬)支持,paddlepose的部署存在易用性问题,也可能我不熟悉.测试了p