首页 > 系统相关 >【全过程】windows GPU训练大模型的前期准备教程

【全过程】windows GPU训练大模型的前期准备教程

时间:2024-07-29 11:56:41浏览次数:18  
标签:教程 windows 路径 cuda 版本 GPU 安装 下载 CUDA

CUDA下载及安装

下载显卡驱动

点这里

进入之后点画圈的地方,然后打开下载的文件,会帮你自动下载和安装适配你显卡的驱动程序(这里不是特别重要,就简单带过)

点击桌面左下角小箭头,出现花圈的标志,也就是英伟达的logo,说明驱动安装成功

安装CUDA

接下来到了重头戏,cuda的安装

查看本机对应的cuda版本

点击刚刚的logo,会打开这样一个页面

点击系统信息-->组件(画圈的位置就是对应的cuda版本)

下载cuda

cuda下载官网

选择对应的版本,点击

然后按照自己电脑的情况,选择即可,然后点击箭头位置下载(这里做演示,我是随便选的,实际下载一定要对应好)

安装cuda

双击下载好的“exe文件”,选择下载路径(推荐默认路径,这是临时目录,cuda安装好后会自动删除,最终的cuda安装位置跟这个不一样即可,否则会找不到安装文件夹)

选择精简安装就不用管路径问题,点击自定义就继续看

组件建议全选

这里就是选择最终安装路径的位置

点击下一步就开始安装了

配置环境变量

点击设置-->搜索高级系统设置-->查看环境变量-->系统变量

确保画圈的这俩存在

然后再手动添加这俩变量

变量名(这里是两个变量名,要新建两个环境变量,但是他们两的值是一样的):

NVCUDASAMPLES_ROOT

NVCUDASAMPLES11_0_ROOT

值一般是这个(注意,最好是自己按照这个路径去找,确保找到“V+你下载的版本”这个文件夹,然后复制路径):

C:\ProgramData\NVlDlA Corporationi\CUDA Samples\v12.4(按你安装的版本,修改

(但是我的电脑路径下没有上面那个文件夹,所以我用了这个路径,目前做了好几个项目都没有问题,你们如果也找不到,可以暂时先用这个,碰到问题再说)

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.4(按你安装的版本,修改)

PS:添加环境变量的方法 

点击新建,然后输入变量名和值即可,值就是路径,然后点确定

验证是否安装成功

运行cmd,输入nvcc --version 即可查看版本号;

安装cudnn

cudnn是cuda的一个补丁,不下的话后期会出现很多问题的

cudnn下载官网

注册账号

注册账号很简单,正常注册就行了

查看对应的cudnn版本

点这里,查看和你下载的cuda对应cudnn版本号

安装cudnn

刚刚说过cudnn实际上是一个补丁,所以准确来说不能叫安装,但是别管那么多了

下载好后,应该是一个压缩包

把下载的 cuDNN 解压缩,会得到下面的文件

复制这三个文件,打开刚刚要确保存在的环境变量路径(注意,是本来就有的,不是你们后面新建的那个环境变量,不要搞错了)

直接复制到这里(复制的过程中,会说有重复,没事直接覆盖)

添加环境变量

往系统环境变量中的 path 添加如下路径(根据自己的路径进行修改,一般就是v那里要修改)

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\libnvvp

双击path,然后点击新建,然后输入路径即可

 验证是否安装成功

首先win+R启动cmd

cd到安装目录下的 …\extras\demo_suite

运行bandwidthTest.exe和deviceQuery.exe

这样说明安装成功了

安装pytorch

torch下载官网

按自己刚刚电脑的情况选择,Stable (2.4.0)是稳定版,Preview (Nightly)是超前版,下超前版用的时候可能会出现一些小问题

Package是你一会要用哪个工具下包

Compute Platform就是你刚刚下载的cuda版本

不怕慢的,直接复制下面,红色框里面的代码到终端运行,即可自动下载torch和torchvision以及torchaudio,这是最保险的办法,之后做项目基本不会出问题

要是怕慢可以自己找找对应版本的镜像(版本一定要弄对,很多时候显卡无法启动就是版本不对,正确的版本应该是,类似于这样的“2.3.0+cu121" 有个cu)

验证torch

下载好后,用python运行这段代码

import torch
#检查是否有显卡可用
print(torch.cuda.is_available())
#可用的显卡有几张
print(torch.cuda.device_count ())

输出这个就说明可以正常使用了 

标签:教程,windows,路径,cuda,版本,GPU,安装,下载,CUDA
From: https://blog.csdn.net/2202_75832991/article/details/140697472

相关文章

  • PADS Layout 入门基础教程(一)
    一、PADSLayout快捷键Ctrl+Q:选中对象后查看其属性 Ctrl+ALt+S:查看状态 AA:任意角度模式     AD:斜角模式    AO:直角模式F4:切换顶底层(或L+层数字:L1)DRP:禁止违背设计规则   DRW:违背设计规则时警告DRI:忽略设计规则     DRO:关闭设计......
  • Dynamics 365 插件开发教程
    插件(Plugin)是Dynamics365中一种非常强大的扩展机制,可以在系统中实现自定义的业务逻辑。插件是在服务器端运行的代码,能够在特定事件发生时被触发,例如创建、更新或删除记录时。本文将介绍如何在Dynamics365中开发插件。准备工作在开始开发插件之前,需要准备以下工具和......
  • springboot系列教程(二十二):springboot整合QuartJob,实现定时器实时管理
    一、QuartJob简介1、一句话描述Quartz是一个完全由java编写的开源作业调度框架,形式简易,功能强大。2、核心API(1)、Scheduler代表一个Quartz的独立运行容器,Scheduler将Trigger绑定到特定JobDetail,这样当Trigger触发时,对应的Job就会被调度。(2)、Trigger描......
  • Qt+OpenCascade开发笔记(二):windows开发环境搭建(二):Qt引入occ库,搭建基础工程模板Demo和发
    前言  OpenCASCADE是由OpenCascadeSAS公司开发和支持的开源软件开发平台,旨在为特定领域快速开发程序而设计。它是一个面向对象的C++类库,提供了丰富的几何造型、数据交换和可视化等功能,成为许多CAD软件的核心组件。  本篇描述搭建Qt开发occ环境过程。 Demo  ......
  • Windows环境变量,JAVA_HOME设置后,如何立即生效?建议重启电脑
    问:Windows环境变量,JAVA_HOME设置后,如何立即生效?建议重启电脑答:在Windows系统中,设置JAVA_HOME环境变量后,要使其立即生效,可以采取以下几种方法:1.通过命令提示符(cmd)修改PATH环境变量这种方法不需要重启计算机或资源管理器,但需要注意的是,它只会对当前打开的cmd窗口有效,一旦关闭该......
  • 淘宝商家电话采集 淘宝店铺爬虫软件使用教程
    淘宝商家电话采集:淘宝店铺爬虫软件使用教程淘宝作为中国最大的电子商务平台之一,拥有众多的商家和店铺。有时候我们需要获取特定店铺的联系电话,以便进行合作洽谈或者其他目的。本文将介绍如何使用Python编写一个淘宝店铺爬虫软件来采集商家店铺的电话信息。首先,我们需要安装以......
  • 如何禁用 Visual Studio Code、Windows 的代码建议
    我想禁用这些代码建议,我认为这是IntelliSense,来自我的VSCode:我尝试更改settings.json,但它不起作用。我添加的内容如下:"editor.quickSuggestions":{"other":false,"comments":false,"strings":false},......
  • yolov8 实现火灾检测(windows+CPU)
    本文实现在windows+CPU的环境下实现实时火宅检测项目网址:https://github.com/noorkhokhar99/Fire-Detection-using-YOLOv8具体实现步骤:1.使用Anaconda搭建一个新的虚拟环境: condacreate-nyolov8_fire_detectionpython==3.92.在GitHub上下载该项目,可以直接点击......
  • 软路由新手入门教程(从概念-选型-接线-安装)
    1、软路由、硬路由概念介绍硬路由通俗介绍:目前我们上网使用的路由器就是“硬”路由,他是厂商提供了一套完整的定制的软件+硬件的解决方案,包含刷好的系统(固件)、电源、路由器机器。常见的路由器有:华为、小米、TP-LINK。如下图。 软路由官方介绍:软路由是指利用台式机或服务......
  • Vue3 - 最新详细实现安装使用 Google 谷歌地图教程,提供搜索城市名称及地点(搜索关键字
    前言如果您需要Vue2版本,请访问这篇文章。在vue3|nuxt3网站开发中,详解实现接入谷歌google地图申请密钥及相关配置完整流程,附带使用谷歌地图相关功能示例代码,支持地图渲染展示、在地图上标点、全球地图搜索及搜索框相关联想关键词、地图导航、用户当前位置经纬度......