CUDA 是NVIDIA推出的通用并行计算架构，帮助您使用NVIDIA GPU解决复杂的计算问题。您可参考如下操作说明安装CUDA工具包。CUDA版本的选择请参见如何选择驱动及相关库、软件版本。

前提条件

GPU云主机配备弹性IP。

在Linux操作系统中安装CUDA

1. 获取cuda安装包下载链接。访问 CUDA下载官网，选择对应的CUDA版本，依次选择操作系统和安装包，复制cuda工具包下载链接。本文以centos系统为例，cuda版本为11.4.0为例。

2. 输入如下命令下载CUDA安装包。

    wget https://developer.download.nvidia.com/compute/cuda/11.4.0/local_installers/cuda_11.4.0_470.42.01_linux.run

3. 输入如下命令安装CUDA工具包。

    sudo sh cuda_11.4.0_470.42.01_linux.run --silent --toolkit  --samples

4. 配置环境变量后查看CUDA版本，出现如下结果则说明CUDA安装成功。

    echo 'export PATH=/usr/local/cuda/bin:$PATH' | sudo tee /etc/profile.d/cuda.sh

    source /etc/profile

    nvcc -V

在Windows操作系统中安装CUDA

1. 下载对应CUDA安装包。访问CUDA下载官网，选择对应的CUDA版本。本文以Windows Server 2016 x86_64版本为例进行安装。

2. 双击cuda_11.4.0_471.11_win10文件开始安装。

3. 选择安装路径，单击“OK”。

4. 单击“同意并继续”。

5. 单击“下一步”。

6. 勾选后单击“NEXT”。

7. 单击“下一步”，出现下图表示安装成功。