首页 > 其他分享 >关于MNN的OPENCL和Vulkan支持

关于MNN的OPENCL和Vulkan支持

时间:2024-08-22 10:38:43浏览次数:7  
标签:barcodeConfig 配置 OPENCL MNN Vulkan type CPU

关于MNN框架推理的时候,通过调用库当中结构体的内容,可以切换选择创建Session的具体配置。关于结构的描述见官方文档:
官方文档——创建Session
CPU是编译的时候默认选择的配置方式,通过文档可知在结构体:

MNN::ScheduleConfig

当中有可以选择的2个成员,分别是:

type(配置方式)
numThread(设置并发数和线程数)

故我们在创建Session之前可以进行相应的配置,大体如下:

// 配置调度配置结构体,并手动设置CPU的并发数与线程数
MNN::ScheduleConfig barcodeConfig;
//barcodeConfig.type = MNN_FORWARD_VULKAN; // 使用GPU-VULKAN进行推理
//barcodeConfig.type = MNN_FORWARD_OPENCL; // 使用GPU-OPENCL进行推理
barcodeConfig.type = MNN_FORWARD_CPU;   // 使用CPU进行推理
//barcodeConfig.numThread = 4; // 设置并发数和线程数
// 创建Session并传递配置
MNN::Session* barcodeSession = barcodeNet->createSession(barcodeConfig);

其中以下配置三选一,且在配置为CPU的时候可以进行配置并发数和线程数

//barcodeConfig.type = MNN_FORWARD_VULKAN; // 使用GPU-VULKAN进行推理
//barcodeConfig.type = MNN_FORWARD_OPENCL; // 使用GPU-OPENCL进行推理
barcodeConfig.type = MNN_FORWARD_CPU;   // 使用CPU进行推理

如果选择了OPENCL配置方式,还需要电脑本身支持OPENCL,具体配置方式参照如下链接:
Windows OPENCV配置

标签:barcodeConfig,配置,OPENCL,MNN,Vulkan,type,CPU
From: https://www.cnblogs.com/Vsonic12138/p/18373333

相关文章

  • 机器学习框架推理流程简述(以一项部署在windows上的MNN框架大模型部署过程为例子)
    一、写在前面公司正好有这个需求,故我这边简单接受进行模型的部署和demo程序的编写,顺便学习了解整个大模型的部署全流程。这篇博客会简单提到大模型部署的全流程,侧重点在推理这里。并且这篇博客也是结合之前的MNN部署流程来编写的,最好连下来一起看。MNN框架在WIN10上的部署MNN框......
  • 关于MNN工程框架编译出来的静态库和动态库的使用
    一、MNN.lib文件路径如果你看过之前的博客内容,应该可以在编译的的工程当中C:\Users\Administrator\Desktop\MNN\MNN-master\MNN-CPU-OPENCL\lib\x64\lib\x64该路径下面找到debug和release两个文件夹。进入到release文件夹下面有Dynamic和Static两个文件夹,分别代表编译出来的......
  • MNN框架在Win10上的部署,支持OpenGL和Vulkan
    上篇记录了之前在win10上部署的流程,不过在camke的时候没有选择支持OpenGL和Vulkan。这里重新按照官方的语雀文档重新进行支持OpenGL和Vulkan的编译,简单做个记录。如果有其他的问题见上一篇博客。参见官方文档:推理框架Windows编译执行代码如下:cd/path/to/MNNpowershell#运行......
  • MNN框架在WIN10上的部署
    一、为什么要做刚进公司,实习期反正主管要求什么我就做什么。。。。自己反正也比较感兴趣,故开始查看官方文档。下述的一切都是基于官方提供的“语雀文档”内的指令进行的,会对自己部署MNN框架的流程当中踩的坑进行记录,希望可以帮助到有缘人。二、具体内容1、在各个应用端部署MNN......
  • MNN框架在windows上的部署
    一、MNN.lib文件等的生成算是第一次接触MNN框架部署这部分内容吧,对整个流程都不是很理解,故先从官方文档入手先从github下载官方的项目,地址为:https://github.com/alibaba/MNN使用visualstudio的powershell打开,执行官网给出的指令cdpath/to/MNNpowershell./schema/generat......
  • OpenCloudOS 8.10 发布:全面兼容企业级 Linux 生态 ,引入更多新 module
    2024年8月,OpenCloudOS社区年度新版本OpenCloudOS8.10正式发布。全面兼容RHEL 8.10用户态包,引入Python3.12软件包,更新GCCToolset13、LLVMToolset17,RustToolset1.75.0,GoToolset1.21.0等编译器和开发工具。OpenCloudOS8.10采用Kernel5.4LTS版本(内核小......
  • 《彩虹六号:围攻》游戏闪退弹窗“缺失vulkan-1.dll”错误怎么解决?彩虹六号围攻找不到v
    在《彩虹六号围攻》遇到找不到vulkan-1.dll的情况时,可采取以下修复方法。可重新安装显卡驱动,检查游戏文件完整性,从正规渠道下载vulkan-1.dll文件并放置到正确位置,或使用dll修复工具来尝试解决这一问题。本篇将为大家带来彩虹六号围攻找不到vulkan-1.dll修复方法的内容,感兴趣的......
  • PgStatement的executeCachedSql(String sql, int flags, String @Nullable [] column
    方法代码如下:privatebooleanexecuteCachedSql(Stringsql,intflags,String@Nullable[]columnNames)throwsSQLException{//第一部分PreferQueryModepreferQueryMode=connection.getPreferQueryMode();booleanshouldUseParameterized=false;......
  • opencloudosV8.6和openEuler 24安装 k8s
    在三台机器上部署Kubernetes集群1.环境准备2.在所有节点上进行以下步骤1.更新系统和安装必要的软件包2.禁用交换分区3.禁用防火墙和SElinux4.系统主机名5.设置主机名与IP地址解析6.配置内核转发及网桥过滤7.配置DockerCgroup驱动8.添加Kubernetes仓库并安装......
  • 彩虹六号:围攻启动游戏缺失vulkan-1.dll文件怎么处理?《彩虹六号:围攻》找不到vulkan-1
    在玩《彩虹六号:围攻》时,如果提示找不到vulkan-1.dll文件,别着急。您可以通过重新安装游戏来解决。或者检查系统是否缺少相关组件并进行安装。也可以更新显卡驱动,修复可能存在的文件缺失或损坏问题。本篇将为大家带来《彩虹六号:围攻》找不到vulkan-1.dll文件修复方法的内容,感兴......