一、cuda安装

1、旧版本

在conda环境中检索cudatoolkit包,根据需求下载指定版本的包。

conda search cudatoolkit

例如,下载cudatoolkit==11.8.0的包。

conda install cudatoolkit==11.8.0

2、新版本

由于anaconda库内的包版本更新较慢,如果需要下载新版本的包需要从anaconda下载站中下载。

选择新版本的cudatoolkit,复制下载命令。

conda install nvidia/label/cuda-12.8.0::cuda-toolkit

由于anaconda的版本低会出现cuda-nvml-dev版本问题报错。

在anaconda下载站中检索并下载最新版的cuda-nvml-dev。

conda install nvidia/label/cuda-12.8.0::cuda-nvml-dev

现在如果直接安装cuda-toolkit还是会报错

其中nsight-compute包缺失文件,无法安装成功,需要卸载并重新在下载站中检索安装。

conda install nvidia/label/cuda-12.8.0::nsight-compute

最后再输入cuda-toolkit命令就可以正常安装了。

conda install nvidia/label/cuda-12.8.0::cuda-toolkit

二、cudnn

1、旧版本

在conda环境中检索cudnn包,根据需求下载指定版本的包。

conda search cudnn

conda install cudnn==8.9.2.26

2、新版本

为了与cuda-toolkit包的版本匹配,也需要下载更新的cudnn与之对应。

conda install nvidia/label/cudnn-9.9.0::cudnn

输入nvcc -V验证安装是否成功

nvcc -V

三、pytorch-gpu

pytorch官网找到需要下载的pytorch版本以及对应的cuda版本的gpu版本的pytorch包下载命令。

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128

下载完成后输入代码验证是否安装成功。

import torch                                                                                                        
print(torch.cuda.is_available())

Logo

欢迎来到FlagOS开发社区,这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂,为推动人工智能技术的普及与深化应用贡献力量。

更多推荐