首页 > 其他分享 >GPU开启持久化模式

GPU开启持久化模式

时间:2024-06-12 10:58:21浏览次数:24  
标签:持久 persistenced 开启 模式 GPU 驱动 NVIDIA Software

GPU开启持久化模式

GPU驱动内存常驻模式,也称为GPU驱动持久模式。linux 系统下,在 persistence 模式是 enabled 状态时, GPU 驱动一直处于加载状态, 减少运行程序时驱动加载的延迟。 不开启该模式时,在程序每次调用完 GPU 后, GPU 驱动都会被卸载,下次调用时再重新加载, 驱动频繁卸载加载, GPU 频繁被初始化,会导致 GPU 死机, CPU 访问 PCIe config registers时间过长导致 softlock, 最终造成 GPU 掉卡、温度监测异常等情况。建议打开GPU驱动内存常驻模式并配置开机自启动。

[root@host ~]# cat /usr/lib/systemd/system/nvidia-persistenced.service
# NVIDIA Persistence Daemon Init Script
#
# Copyright (c) 2013 NVIDIA Corporation
#
# Permission is hereby granted, free of charge, to any person obtaining a
# copy of this software and associated documentation files (the "Software"),
# to deal in the Software without restriction, including without limitation
# the rights to use, copy, modify, merge, publish, distribute, sublicense,
# and/or sell copies of the Software, and to permit persons to whom the
# Software is furnished to do so, subject to the following conditions:
#
# The above copyright notice and this permission notice shall be included in
# all copies or substantial portions of the Software.
#
# THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
# IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
# FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
# AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
# LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING
# FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER
# DEALINGS IN THE SOFTWARE.
#
# This is a sample systemd service file, designed to show how the NVIDIA
# Persistence Daemon can be started.
#

[Unit]
Description=NVIDIA Persistence Daemon
Wants=syslog.target

[Service]
Type=forking
ExecStart=/usr/bin/nvidia-persistenced --user nvidia-persistenced
ExecStopPost=/bin/rm -rf /var/run/nvidia-persistenced

[Install]
WantedBy=multi-user.target

开启成功后效果:

标签:持久,persistenced,开启,模式,GPU,驱动,NVIDIA,Software
From: https://www.cnblogs.com/yuhaohao/p/18243501

相关文章

  • 在Python中使用GPU进行并行计算的方法
    在Python中使用GPU进行计算通常涉及到一些特定的库,如NumPy、SciPy的GPU加速版本(如CuPy、PyCUDA等)或深度学习库(如TensorFlow、PyTorch等)。这些库能够利用GPU进行并行计算,从而加速数据处理和模型训练等任务。以下是一个使用TensorFlow和PyTorch在Python中利用GPU进行计算的详细......
  • Python酷库之旅-开启库房之门
    目录一、库的定义二、库的组成三、库的分类四、如何学好Python库?五、注意事项六、推荐阅读1、Python筑基之旅2、Python函数之旅3、Python算法之旅4、Python魔法之旅5、 博客个人主页一、库的定义        在Python中,库(Library)是一个封装了特定功能或......
  • Redis之持久化
    Redis持久化Redis是内存数据库,如果不将内存中的数据库状态保存到磁盘,那么一旦服务器进程退出,服务器中的数据库状态也会消失。所以Redis提供了持久化功能!RDB(RedisDataBase)在指定的时间间隔内将内存中的数据集快照写入磁盘,也就是Snapshot快照,它恢复时是将快照文件直接......
  • 《Optimizing the LINPACK Algorithm for Large-Scale PCIe-Based CPU-GPU Heterogene
    论文标题《OptimizingtheLINPACKAlgorithmforLarge-ScalePCIe-BasedCPU-GPUHeterogeneousSystems》为基于PCIe的大规模CPU-GPU异构系统优化LINPACK算法作者GuangmingTan、ChaoyangShui、YinshanWang、XianzhiYu和YujinYan来自中科院计算所初读摘要......
  • 视创云展元宇宙虚拟展厅:开启无限可能的沉浸式体验
    随着科技的飞速发展,元宇宙虚拟展厅已逐步成为展览行业的新宠。视创云展元宇宙虚拟展厅以其独特的魅力,将参观者从传统展览场所的束缚中解放出来,为他们呈现了一个更为广阔、更为丰富的虚拟世界。通过数字虚拟展厅这一载体,参观者能够与展品进行深度交互,享受逼真的虚拟环境带来的全......
  • 关于计算核心先进性和稳定性的差异以及CPU/MCU/PLC/工控机/DSP/FPGA/PAC/SOC/GPU/NPU/
    各种名称的关系PLC分为组合式和一体式,整体上落后于个人商用主机主要使用梯形图语言(LD)、指令表语言(IL)、功能模块图语言(FBD)、顺序功能流程图语言(SFC)、结构化文本语言(ST)编程为什么PLC贵为什么PLC使用的处理器都比较低端?(比如低端赛扬甚至STM32)PLC无需进行多任务处理CPU越......
  • ollama gpu 集成测试qwen2 7b 模型
    昨天测试了下基于ollamacpu模式运行的qwen2对于小参数0.5b以及1.5b的速度还行,但是你的cpu核数以及内存还是需要大一些今天测试下基于gpu的qwen27b模型,以下简单说明下安装ollama如果我们申请的机器包含了GPU,ollama的安装cli还是比较方便的,会直接帮助我们进行gpu驱......
  • Pytorch GPU版环境搭建 CUDA11.2
    简单记录下~参考:深度学习环境配置超详细教程【Anaconda+Pycharm+PyTorch(GPU版)+CUDA+cuDNN】pythonpytorch-GPU环境搭建(CUDA11.2)版本概览Python3.8CUDA11.2cuDNN8.1.1torch1.9.1torchvision0.10.1torchaudio0.9.1CUDA判断自己应该下载什么版本的cu......
  • 开启数字化校园解决方案,实现教育智能化
     现代社会的教育面临诸多挑战,如何提高教育质量,实现教育智能化成为了当务之急。数字化校园解决方案应运而生,为学校提供了全新的教学模式和管理方式。本文将介绍数字化校园解决方案的重要性,以及如何开启数字化校园,实现教育智能化。 首先,数字化校园解决方案是教育智能化的基......
  • AX6000 Zerotier 开机自启 & 持久化虚拟 MAC 地址
    步骤:当前先配置好Zerotier,保证可以拿到IP地址;将整个Zerotier复制到/data下;cp-a/var/lib/zerotier-one/data/zerotier删掉/data/zerotier/下的zerotier-one.pid文件在/data/auto_ssh/auto_ssh.sh末尾添加如下内容:cp-a/data/zerotier/var/lib/zeroti......