首页 > 编程语言 >【那些遇到的认知问题】如何同时运行 2 个 CUDA 应用程序?

【那些遇到的认知问题】如何同时运行 2 个 CUDA 应用程序?

时间:2023-08-17 18:46:41浏览次数:45  
标签:认知 应用程序 CUDA GPU 序列化 运行 内核

前言

PC只有一个Nvidia显卡,程序A正在运行,训练分类,显卡内存占用不到50%,如果想同时运行另一个训练语义分割的程序B,是可行的嘛?

结论

理论上,如果对CUDA和GPU编程熟悉,可以对内核应用程序进行序列化,使得一个应用程序的内核正在运行时,GPU不会调度另一个应用程序的内核,类似于多进程。否则,如果只是追求额外的“并行”级别,两个应用程序都会找到并尝试使用GPU,但是内核的序列化可能不会给出想要的结果,同时GPU的限制可能会同时对两个应用程序产生影响。

参考

1. 如何同时运行 2 个 CUDA 应用程序?

 

标签:认知,应用程序,CUDA,GPU,序列化,运行,内核
From: https://www.cnblogs.com/happyamyhope/p/17637080.html

相关文章

  • 我的第一篇博客--深入了解.NET:构建强大的应用程序和平台
    导言:在现代软件开发领域中,微软.NET框架是一个备受推崇和广泛采用的平台。借助.NET,开发人员可以构建强大、高性能的应用程序和跨平台解决方案。本篇博客将带您深入了解.NET框架的独特功能和优点,并探索其在不同领域的应用。简介.NET框架解释.NET框架的基本概念和组件,包括公共语言运......
  • 构建跨平台的移动应用程序:Xamarin入门
    介绍:在移动应用开发领域,跨平台的解决方案变得越来越受欢迎。Xamarin是一种流行的跨平台移动应用开发框架,它允许开发者使用C#语言来构建同时运行在iOS和Android平台上的应用程序。本篇博客将带您入门Xamarin开发,展示如何构建跨平台的移动应用程序。步骤1:安装和设置环境在开始之前,......
  • 基于Kubernetes云原生技术的低代码PaaS平台,快速构建企业级应用程序
    低代码开发平台只需要编写简单的配置文件即可构建企业级应用程序。低代码PaaS平台可以在云端开发、部署、运行低代码应用程序。使用独立数据库模型,基于Kubernetes云原生技术,每个租户均可拥有一套独立的存储、数据库、代码和命名空间,实现了100%的租户数据隔离,并可以随时迁移到私有部......
  • applicationrunner用法 是一个方便的接口,可以用于在应用程序启动后执行一些逻辑,比如数
    applicationrunner用法原文链接:https://wenku.csdn.net/answer/d8f7f4398bc786e79ed79f09b540878fApplicationRunner是SpringBoot中的一个用于运行应用程序的类。它可以帮助你快速启动和运行你的应用程序,而不需要写很多代码。你可以通过实现ApplicationRunner接口并重写run方法......
  • cuda 卸载和安装指定(Ubuntu)
    问题:安装apex的时候发现pytorch的cuda版本和机器上cuda版本不一致,导致报错解决方案:卸载cuda并重新安装指定版本的cuda(卸载12.0版本,安装11.7版本)解决过程:1.卸载旧版cuda参考网站:HowtoCompletelyRemoveCUDAfromUbuntu|SaturnCloudBlog然后重启电脑2.安装新的版本......
  • 利用Docker简化机器学习应用程序的部署和可扩展性
    利用Docker的强大功能:简化部署解决方案,确保可扩展性,并简化机器学习模型的持续集成/持续交付(CI/CD)流程。机器学习(ML)近年来取得了爆炸性增长,导致对稳健、可扩展和高效部署方法的需求增加。传统方法往往需要帮助将ML模型操作化,原因包括训练和服务环境之间的差异或扩展的困难。Docker是......
  • 【愚公系列】2023年08月 WPF控件专题 WPF应用程序组成
    (文章目录)<hrstyle="border:solid;width:100px;height:1px;"color=#000000size=1">一、WPF组成WindowsPresentationFoundation由两个主要部分组成:引擎和编程框架。1、WindowsPresentationFoundation引擎。WindowsPresentationFoundation(WPF)引擎是一个用于创建Wi......
  • torch._C._cuda_setDevice(device)
    1.问题原因:安装的事pytorchCPU版本;2解决办法:卸载已安装的pytorch,安装GPU版本的pytorch安装命令如下:pip3installtorchtorchaudio-ihttps://pypi.tuna.tsinghua.edu.cn/simple安装过程有点长,安装过程运行如下:安装完后验证是否安装成功:importtorchtorch.cuda.is_available()......
  • CUDA之矩阵转置(全局内存、共享内存)
    使用全局内存完整代码链接A合并访问、B非合并访问#ifdefUSE_DPtypedefdoublereal;#elsetypedeffloatreal;#endif__global__voidtranspose1(constreal*A,real*B,constintN){constintnx=blockIdx.x*blockDim.x+threadIdx.x;const......
  • C#重启IIS指定网站和指定应用程序池
    usingJinher.AMP.BTP.Deploy;usingMicrosoft.Web.Administration;usingRedis.Helper;usingSystem;usingSystem.Collections.Generic;usingSystem.Configuration;usingSystem.IO;usingSystem.Linq;usingSystem.Text;usingSystem.Threading;usingSystem.Th......