公司网站制作内容,河北建设人才网官网,wordpress+博客+简书,抖音营销网站建设价格【深度学习环境配置】一文弄懂cuda#xff0c;cuDNN#xff0c;NVIDIA Driver version#xff0c;cudatoolkit的关系 NVIDIA Driver version#xff08;NVIDIA驱动程序#xff09;CUDAcuDNNcudatoolkit深度学习环境配置顺序 今天突然发现配置的环境有些问题#xff0c;意… 【深度学习环境配置】一文弄懂cudacuDNNNVIDIA Driver versioncudatoolkit的关系 NVIDIA Driver versionNVIDIA驱动程序CUDAcuDNNcudatoolkit深度学习环境配置顺序 今天突然发现配置的环境有些问题意识到对于cudacuDNNNVIDIA Driver versioncudatoolkit的关系理解不够透彻特记录一下 【注】本文的前提在于要有Nvidia的独显GPU本文的图片一部分来自我之前在windows下配置的博客配置深度学习环境在WindowsWin10中安装CUDACUDNNPytorch GPU版另一部分为ubuntu下配置截取的 NVIDIA Driver versionNVIDIA驱动程序
NVIDIA驱动程序NVIDIA Driver是安装在计算机上的软件用于管理NVIDIA GPU的运行和功能。它是连接操作系统与GPU之间的桥梁负责驱动GPU的操作并提供对GPU硬件的访问接口。windows下查看NVIDIA Driver version版本方法为桌面 --》 鼠标右键 --》NVIDIA控制面板–》系统信息–》组件 --》NVCUDA64.DLL 在产品名称栏 **Ubuntu下查看NVIDIA Driver version版本方法为应用菜单栏–》软件和更新–》附加驱动 525即是我的驱动版本 ** ubuntu安装nvidia driver显卡驱动可查看这里3分钟安装ubuntu20.04显卡驱动nvidia-smi用于查询和监控NVIDIA GPU的状态和信息。它可以显示诸如GPU型号、驱动程序版本、GPU使用率、温度、显存使用情况等信息。使用命令nvidia-smi也可查看driver版本525.125.06我安装的具体版本使用命令nvidia-smi看到的CUDA Version是指该NVIDIA驱动程序所支持的最高CUDA版本下图显示的即为支持的最高CUDA版本为12.0 CUDA提供了两种API分别是运行时APICUDA Runtime API和驱动APIDriver API驱动APIDriver API的版本对应nvidia-smi显示的CUDA Driver结果该NVIDIA驱动程序所支持的最高CUDA版本运行时APICUDA Runtime API对应于nvcc -V显示的结果一般情况下nvcc -V显示的版本号是小于等于nvidia-smi所显示的cuda版本这就是二者显示版本不一致的原因所在
CUDA
CUDACompute Unified Device Architecture是由NVIDIA开发的一种并行计算平台和编程模型它允许开发者使用NVIDIA的GPU图形处理单元进行高性能的计算操作。CUDA为开发者提供了一套扩展的C/C编程语言使得他们能够在GPU上实现并行计算从而显著加速科学计算和图形渲染等任务。通常情况下当提到CUDA时指的是CUDA Runtime版本。CUDA Runtime是一组库和工具用于在应用程序中进行并行计算提供了一系列API和函数用于在NVIDIA GPU上执行并行计算任务。CUDA Runtime的版本通过nvcc -V查询选择安装的CUDA Runtime版本取决于显卡GPU的算力和NVIDIA Driver version显卡驱动版本显卡算力与CUDA Runtime的对应关系 请查看这里先搜索显卡型号查找算力再根据算力选择CUDA Runtime 查看自身显卡的算力在此网站中搜索显卡型号可以看到我显卡对应的算力是7.5 该网站的后面有CUDA版本和算力的对应关系查看显卡算力支持的CUDA版本 算力7.5支持的CUDA版本有10.0-10.211.011.1-11.411.5–11.7.111.812.0CUDA Runtime版本与NVIDIA Driver version显卡驱动版本的关系请查看这里 ubuntu下安装的cuda一般在/usr/local下的cuda路径下cuda官网下载地址CUDA Toolkit Archive
cuDNN
cuDNNCUDA Deep Neural Network library是由NVIDIA提供的一个用于深度学习的GPU加速库。它包含了一系列针对深度神经网络的优化算法和函数能够大幅提升深度学习模型的训练和推理速度cuDNN已经被集成在Pytorch中无需单独安装但是如果需要从源码编译就还是需要安装cuDNN具体链接如下cuDNN官网下载链接 写这篇文章的起因就是突然发现自己没有安装cudacudnn在安装了pytorch gpu版之后也可以使用gpu运行代码 https://discuss.pytorch.org/t/how-to-check-if-torch-uses-cudnn/21933/3 这篇帖子解释了原因但我个人觉得cuda runtime还是要安装的 cudatoolkit
CUDA Toolkit是用于开发和优化CUDA应用程序的软件开发工具包。它包含了一系列的工具、库和文档以及与硬件驱动程序和其他库如cuDNN、cuBLAS等兼容的开发环境在安装pytorch的时候通常后面都会跟着安装 cudatoolkit CUDA Toolkit提供了必要的工具和库使PyTorch能够与GPU进行交互并在GPU上执行计算任务CUDA Toolkit使PyTorch能够利用GPU的并行计算能力加速模型的训练和推理过程从而提高效率和性能
深度学习环境配置顺序
**安装显卡驱动NVIDIA Driver **根据显卡算力和NVIDIA Driver version显卡驱动版本选择适合的CUDA runtime版本安装CUDA runtimecuDNN可跳过不进行安装安装anaconda创建虚拟环境安装pytorch/tensorflow等深度学习框架
