CUDA

最近在使用飞桨OCR，有几个特殊的符号需要进行识别，手上只有两台机器，一台1080TI单卡(windows11)，一台1080Ti双卡(linux22.04)，习惯性追新到飞桨最高支持的cuda11.7，其实1080Ti到cuda10就够用了，后面的新版本差没有明显的性能提升。windows上无脑安装，linux上安装比较麻烦，记录下安装过程......

❗建议直接Windows安装驱动，不要在子系统里装官网安装，选择自己的版本即可https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=Ubuntu&target_version=22.04&target_type=deb_localwget<https://developer.download.nvidia.com/co......

一个记录：神奇的发型——所有的aarch64架构的CPU平台下的深度学习框架均不原生支持CUDA  不论是mindspore、pytorch、TensorFlow框架只要是aarch64架构的CPU下的系统平台均是原生不支持CUDA版本的，如果你想要在aarch64架构下使用支持CUDA的深度学习框架就必须要在深度学习框架......

参考资料：[CUDA开发文档]今天在调试Pytorch代码的时候遇到了下面的报错，RuntimeError:CUDAerror:XXX[此处为各种cudaerror]CUDAkernelerrorsmightbeasynchronouslyreportedatsomeotherAPIcall,sothestacktracebelowmightbeincorrect.......

书接上文一种基于DeltaE(CIE1976)的找色算法DeltaE是评估色彩准确度的重要测量指标。摄影师、影片编辑和平面设计师等创意专业人士都应重视这项标准，因其是选择专业级显示器的重要考虑因素。常见的找色算法都是基于颜色RGB上的数值差，这种方法虽然快捷，但是和人眼视觉上的色......

windows使用visualstudio开发cuda-downloads安装cuda工具集。其中额外包含：独立程序有：nsightsystem是分析cpu+gpu系统性能的工具。nsightcompute是分析gpucudakernel的工具。nsightgraphics是分析gpu图形性能的工具。cuda工具集中也不包含该工具插件有：nsightint......

 关于conda环境下安装cuda配置和pytorch安装cuda查看显卡型号 （进入cmd环境下） nvidia-smi 下载对应的cudaCUDA Toolkit Archive | NVIDIA Developer）选择与cuda相匹配的版本（版本尽量靠近些电脑的）建议使用迅雷下载，网站下载会限速正式安装安装路径的选择，......

近期，我在写深度学习相关的C++部署时候，往往想更好的提速，将更多类似矩阵相关的运算交给CUDA处理，以此提高推理速度。然，cuda编程入门较为复杂，想简单对图像预处理，通过指针指向减少host到device时间，或模型预测后device上处理完后，数据在device到host输出结果等，这些将会涉及很多知识。......

  下图有几个重点的元素，也是我们下文重点要阐述的概念，绿色代表的是computationalunits(可计算单元)或者称之为cores(核心)，橙色代表memories（内存），黄色代表的是controlunits（控制单元）。  因此想要理解GPU的底层核心构成，就必须明确这几个元素的作用，下文会逐一讲解每个元素的......

 NVIDIA®CUDA®工具包为创建高性能GPU加速应用提供了发展环境。使用CUDA工具包，您可以在GPU加速嵌入式系统、桌面工作站、企业数据中心、基于云的平台和HPC超级计算机上开发、优化和部署您的应用程序。工具包包括GPU加速库、调试和优化工具、C/C++编译器以及一个运行......