【那些遇到的认知问题】如何同时运行 2 个 CUDA 应用程序？

前言

PC只有一个Nvidia显卡，程序A正在运行，训练分类，显卡内存占用不到50%，如果想同时运行另一个训练语义分割的程序B，是可行的嘛？

结论

理论上，如果对CUDA和GPU编程熟悉，可以对内核应用程序进行序列化，使得一个应用程序的内核正在运行时，GPU不会调度另一个应用程序的内核，类似于多进程。否则，如果只是追求额外的“并行”级别，两个应用程序都会找到并尝试使用GPU，但是内核的序列化可能不会给出想要的结果，同时GPU的限制可能会同时对两个应用程序产生影响。

参考

1. 如何同时运行 2 个 CUDA 应用程序？

完