CUDA 快速入门指南

在标准系统上运行 CUDA 的最简首次步骤说明。

1. 简介

本指南涵盖安装 CUDA 并验证 CUDA 应用程序是否可以在每个受支持平台上运行所需的基本说明。

这些说明旨在用于受支持平台的全新安装。对于本文档中未解答的问题，请参阅Windows 安装指南和Linux 安装指南。

CUDA 安装包可以在CUDA 下载页面上找到。

2. Windows

在 Windows 上安装 CUDA 时，您可以在网络安装程序和本地安装程序之间进行选择。网络安装程序允许您仅下载所需的文件。本地安装程序是独立安装程序，初始下载量较大。有关更多详细信息，请参阅Windows 安装指南。

2.1. 网络安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 启动下载的安装程序包。

  2. 阅读并接受 EULA。

  3. 选择下一步以下载并安装所有组件。

  4. 下载完成后，安装将自动开始。

  5. 安装完成后，单击“下一步”以确认 Nsight Visual Studio Edition 安装摘要。

  6. 单击关闭以关闭安装程序。

  7. 导航到 Samples 的 nbody 目录，路径为 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody。

  8. 为您安装的 Visual Studio 版本打开 nbody Visual Studio 解决方案文件，例如 nbody_vs2019.sln。

    _images/navigate_nbody.png

  9. 打开 Visual Studio 中的生成菜单，然后单击生成解决方案。

    _images/nbody_build.png

  10. 导航到 CUDA Samples 生成目录并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

2.2. 本地安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 启动下载的安装程序包。

  2. 阅读并接受 EULA。

  3. 选择下一步以安装所有组件。

  4. 安装完成后，单击下一步以确认 Nsight Visual Studio Edition 安装摘要。

  5. 单击关闭以关闭安装程序。

  6. 导航到 Samples 的 nbody 目录，路径为 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody。

  7. 为您安装的 Visual Studio 版本打开 nbody Visual Studio 解决方案文件。

    _images/navigate_nbody.png

  8. 打开 Visual Studio 中的生成菜单，然后单击生成解决方案。

    _images/nbody_build.png

  9. 导航到 CUDA Samples 生成目录并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

2.3. Pip Wheels - Windows

NVIDIA 提供 Python Wheels，用于通过 pip 安装 CUDA，主要用于将 CUDA 与 Python 一起使用。这些软件包旨在用于运行时，目前不包含开发人员工具（这些工具可以单独安装）。

请注意，使用此安装方法，CUDA 安装环境通过 pip 管理，并且必须格外小心地设置您的主机环境，以便在 pip 环境之外使用 CUDA。

先决条件

要安装 Wheels，您必须首先安装 nvidia-pyindex 软件包，这是设置您的 pip 安装以从 NVIDIA NGC PyPI 仓库获取其他 Python 模块所必需的。如果您的 pip 和 setuptools Python 模块不是最新的，请使用以下命令升级这些 Python 模块。如果这些 Python 模块已过时，则本节稍后的命令可能会失败。

py -m pip install --upgrade setuptools pip wheel

您现在应该能够安装 nvidia-pyindex 模块。

py -m pip install nvidia-pyindex

如果您的项目正在使用 requirements.txt 文件，那么您可以将以下行添加到您的 requirements.txt 文件中，作为安装 nvidia-pyindex 软件包的替代方法

--extra-index-url https://pypi.ngc.nvidia.com

步骤

安装 CUDA 运行时软件包

py -m pip install nvidia-cuda-runtime-cu12

（可选）使用以下命令安装下面列出的其他软件包

py -m pip install nvidia-<library>

元软件包

以下元软件包将在 Windows 上为指示的 CUDA 版本安装命名组件的最新版本。“cu12”应理解为“cuda12”。

  • nvidia-cuda-runtime-cu12

  • nvidia-cuda-cupti-cu12

  • nvidia-cuda-nvcc-cu12

  • nvidia-nvml-dev-cu12

  • nvidia-cuda-nvrtc-cu12

  • nvidia-nvtx-cu12

  • nvidia-cuda-sanitizer-api-cu12

  • nvidia-cublas-cu12

  • nvidia-cufft-cu12

  • nvidia-curand-cu12

  • nvidia-cusolver-cu12

  • nvidia-cusparse-cu12

  • nvidia-npp-cu12

  • nvidia-nvjpeg-cu12

这些元软件包安装以下软件包

  • nvidia-nvml-dev-cu126

  • nvidia-cuda-nvcc-cu126

  • nvidia-cuda-runtime-cu126

  • nvidia-cuda-cupti-cu126

  • nvidia-cublas-cu126

  • nvidia-cuda-sanitizer-api-cu126

  • nvidia-nvtx-cu126

  • nvidia-cuda-nvrtc-cu126

  • nvidia-npp-cu126

  • nvidia-cusparse-cu126

  • nvidia-cusolver-cu126

  • nvidia-curand-cu126

  • nvidia-cufft-cu126

  • nvidia-nvjpeg-cu126

2.4. Conda

Conda 软件包可在 https://anaconda.org/nvidia 获取。

安装

要使用 Conda 执行所有 CUDA 工具包组件的基本安装，请运行以下命令

conda install cuda -c nvidia

卸载

要使用 Conda 卸载 CUDA 工具包，请运行以下命令

conda remove cuda

3. Linux

Linux 上的 CUDA 可以使用 RPM、Debian、Runfile 或 Conda 软件包进行安装，具体取决于要安装的平台。

3.1. Linux x86_64

用于 x86_64 架构上的开发。在某些情况下，x86_64 系统可以用作面向其他架构的主机平台。有关更多详细信息，请参阅Linux 安装指南。

3.1.1. Redhat / CentOS

在 Redhat 或 CentOS 上安装 CUDA 时，您可以在 Runfile 安装程序和 RPM 安装程序之间进行选择。Runfile 安装程序仅作为本地安装程序提供。RPM 安装程序既可以作为本地安装程序，也可以作为网络安装程序提供。网络安装程序允许您仅下载所需的文件。本地安装程序是独立安装程序，初始下载量较大。对于 RPM 安装程序，本地和网络变体的说明是相同的。有关更多详细信息，请参阅Linux 安装指南。

3.1.1.1. RPM 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 按照 EPEL 网站上的说明安装 EPEL 以满足 DKMS 依赖项。

  2. 启用可选仓库:

    仅在 RHEL 8 Linux 上，执行以下步骤以启用可选仓库。

    • 在 x86_64 工作站上

      subscription-manager repos --enable=rhel-8-for-x86_64-appstream-rpms
subscription-manager repos --enable=rhel-8-for-x86_64-baseos-rpms
subscription-manager repos --enable=codeready-builder-for-rhel-8-x86_64-rpms

  3. 安装仓库元数据，清除 yum 缓存，然后安装 CUDA

    sudo rpm --install cuda-repo-<distro>-<version>.<architecture>.rpm
sudo rpm --erase gpg-pubkey-7fa2af80*
sudo yum clean expire-cache
sudo yum install cuda

  4. 重启系统以加载 NVIDIA 驱动程序

    sudo reboot

  5. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  6. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.1.2. Runfile 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 禁用 Nouveau 驱动程序

    1. 在 /etc/modprobe.d/blacklist-nouveau.conf 创建一个文件，内容如下

      blacklist nouveau
options nouveau modeset=0

    2. 重新生成内核 initramfs

      sudo dracut --force

  2. 通过将数字“3”和单词“nomodeset”临时添加到系统内核启动参数的末尾，重启进入运行级别 3。

  3. 以静默方式运行安装程序以使用默认选择进行安装（意味着接受 EULA）

    sudo sh cuda_<version>_linux.run --silent

  4. 创建一个 xorg.conf 文件以使用 NVIDIA GPU 进行显示

    sudo nvidia-xconfig

  5. 重启系统以加载图形界面

    sudo reboot

  6. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  7. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.2. Fedora

在 Fedora 上安装 CUDA 时，您可以在 Runfile 安装程序和 RPM 安装程序之间进行选择。Runfile 安装程序仅作为本地安装程序提供。RPM 安装程序既可以作为本地安装程序，也可以作为网络安装程序提供。网络安装程序允许您仅下载所需的文件。本地安装程序是独立安装程序，初始下载量较大。对于 RPM 安装程序，本地和网络变体的说明是相同的。有关更多详细信息，请参阅Linux 安装指南。

3.1.2.1. RPM 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 安装 RPMFusion free 仓库以满足 Akmods 依赖项

    su -c 'dnf install --nogpgcheck http://download1.rpmfusion.org/free/fedora/rpmfusion-free-release-$(rpm -E %fedora).noarch.rpm'

  2. 安装仓库元数据，清除 dnf 缓存，然后安装 CUDA

    sudo rpm --install cuda-repo-<distro>-<version>.<architecture>.rpm
sudo rpm --erase gpg-pubkey-7fa2af80*
sudo dnf clean expire-cache
sudo dnf install cuda

  3. 重启系统以加载 NVIDIA 驱动程序

    sudo reboot

  4. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  5. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.2.2. Runfile 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 禁用 Nouveau 驱动程序

    1. 在 /usr/lib/modprobe.d/blacklist-nouveau.conf 创建一个文件，内容如下

      blacklist nouveau
options nouveau modeset=0

    2. 重新生成内核 initramfs

      sudo dracut --force

    3. 运行以下命令

      sudo grub2-mkconfig -o /boot/grub2/grub.cfg

    4. 重启系统

      sudo reboot

  2. 通过将数字“3”和单词“nomodeset”临时添加到系统内核启动参数的末尾，重启进入运行级别 3。

  3. 以静默方式运行安装程序以使用默认选择进行安装（意味着接受 EULA）

    sudo sh cuda_<version>_linux.run --silent

  4. 创建一个 xorg.conf 文件以使用 NVIDIA GPU 进行显示

    sudo nvidia-xconfig

  5. 重启系统以加载图形界面。

  6. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  7. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.3. SUSE Linux Enterprise Server

在 SUSE Linux Enterprise Server 上安装 CUDA 时，您可以在 Runfile 安装程序和 RPM 安装程序之间进行选择。Runfile 安装程序仅作为本地安装程序提供。RPM 安装程序既可以作为本地安装程序，也可以作为网络安装程序提供。网络安装程序允许您仅下载所需的文件。本地安装程序是独立安装程序，初始下载量较大。对于 RPM 安装程序，本地和网络变体的说明是相同的。有关更多详细信息，请参阅Linux 安装指南。

3.1.3.1. RPM 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 安装仓库元数据，刷新 Zypper 缓存，更新 GPG 密钥，然后安装 CUDA

    sudo rpm --install cuda-repo-<distro>-<version>.<architecture>.rpm
sudo SUSEConnect --product PackageHub/15/x86_64
sudo zypper refresh
sudo rpm --erase gpg-pubkey-7fa2af80*
sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/$distro/$arch/cuda-$distro.repo
sudo zypper install cuda

  2. 将用户添加到 video 组

    sudo usermod -a -G video <username>

  3. 重启系统以加载 NVIDIA 驱动程序

    sudo reboot

  4. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  5. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/0_Introduction/vectorAdd 中的 Linux 说明构建并运行 vectorAdd 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.3.2. Runfile 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 通过将数字“3”和单词“nomodeset”临时添加到系统内核启动参数的末尾，重启进入运行级别 3。

  2. 以静默方式运行安装程序以使用默认选择进行安装（意味着接受 EULA）

    sudo sh cuda_<version>_linux.run --silent

  3. 创建一个 xorg.conf 文件以使用 NVIDIA GPU 进行显示

    sudo nvidia-xconfig

  4. 重启系统以加载图形界面

    sudo reboot

  5. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  6. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/0_Introduction/vectorAdd 中的 Linux 说明构建并运行 vectorAdd 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.4. OpenSUSE

在 OpenSUSE 上安装 CUDA 时，您可以在 Runfile 安装程序和 RPM 安装程序之间进行选择。Runfile 安装程序仅作为本地安装程序提供。RPM 安装程序既可以作为本地安装程序，也可以作为网络安装程序提供。网络安装程序允许您仅下载所需的文件。本地安装程序是独立安装程序，初始下载量较大。对于 RPM 安装程序，本地和网络变体的说明是相同的。有关更多详细信息，请参阅Linux 安装指南。

3.1.4.1. RPM 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 安装仓库元数据，刷新 Zypper 缓存，然后安装 CUDA

    sudo rpm --install cuda-repo-<distro>-<version>.<architecture>.rpm
sudo rpm --erase gpg-pubkey-7fa2af80*
sudo zypper refresh
sudo zypper install cuda

  2. 将用户添加到 video 组

    sudo usermod -a -G video <username>

  3. 重启系统以加载 NVIDIA 驱动程序

    sudo reboot

  4. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  5. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.4.2. Runfile 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 禁用 Nouveau 驱动程序

    1. 在 /etc/modprobe.d/blacklist-nouveau.conf 创建一个文件，内容如下

      blacklist nouveau
options nouveau modeset=0

    2. 重新生成内核 initrd

      sudo /sbin/mkinitrd

  2. 通过将数字“3”和单词“nomodeset”临时添加到系统内核启动参数的末尾，重启进入运行级别 3。

  3. 以静默方式运行安装程序以使用默认选择进行安装（意味着接受 EULA）

    sudo sh cuda_<version>_linux.run --silent

  4. 创建一个 xorg.conf 文件以使用 NVIDIA GPU 进行显示

    sudo nvidia-xconfig

  5. 重启系统以加载图形界面

    sudo reboot

  6. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                    ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  7. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.5. Amazon Linux 2023

3.1.5.1. 准备 Amazon Linux 2023

  1. 执行预安装操作。

  2. 当前运行内核的内核头文件和开发包可以使用以下命令安装

    sudo dnf install kernel-devel-$(uname -r) kernel-headers-$(uname -r) kernel-modules-extra-$(uname -r)

  3. 选择安装方法：本地仓库或网络仓库。

3.1.5.2. Amazon Linux 的本地仓库安装

  1. 在文件系统上安装本地仓库

    sudo rpm --install cuda-repo-amzn2023-X-Y-local-<version>*.x86_64.rpm

3.1.5.3. Amazon Linux 的网络仓库安装

  1. 启用网络仓库并清除 DN 缓存

    sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/amzn2023/x86_64/cuda-amzn2023.repo
sudo dnf clean expire-cache

3.1.5.4. Amazon Linux 的通用安装说明

这些说明适用于 Amazon Linux 的本地和网络安装。

  1. 安装 CUDA SDK

    sudo dnf module install nvidia-driver:latest-dkms
sudo dnf install cuda-toolkit

  2. 安装 GPUDirect Filesystem

    sudo dnf install nvidia-gds

  3. 添加 libcuda.so 符号链接（如果需要）

    libcuda.so 库安装在 /usr/lib{,64}/nvidia 目录中。对于使用 libcuda.so 的现有项目，添加从 /usr/lib{,64} 目录中的 libcuda.so 到 libcuda.so 的符号链接可能很有用。

  4. 重启系统

    sudo reboot

  5. 执行安装后操作。

3.1.6. Pip Wheels - Linux

NVIDIA 提供 Python Wheels，用于通过 pip 安装 CUDA，主要用于将 CUDA 与 Python 一起使用。这些软件包旨在用于运行时，目前不包含开发人员工具（这些工具可以单独安装）。

请注意，使用此安装方法，CUDA 安装环境通过 pip 管理，并且必须格外小心地设置您的主机环境，以便在 pip 环境之外使用 CUDA。

先决条件

要安装 Wheels，您必须首先安装 nvidia-pyindex 软件包，这是设置您的 pip 安装以从 NVIDIA NGC PyPI 仓库获取其他 Python 模块所必需的。如果您的 pip 和 setuptools Python 模块不是最新的，请使用以下命令升级这些 Python 模块。如果这些 Python 模块已过时，则本节稍后的命令可能会失败。

python3 -m pip install --upgrade setuptools pip wheel

您现在应该能够安装 nvidia-pyindex 模块。

python3 -m pip install nvidia-pyindex

如果您的项目正在使用 requirements.txt 文件，那么您可以将以下行添加到您的 requirements.txt 文件中，作为安装 nvidia-pyindex 软件包的替代方法

--extra-index-url https://pypi.ngc.nvidia.com

步骤

安装 CUDA 运行时软件包

python3 -m pip install nvidia-cuda-runtime-cu12

（可选）使用以下命令安装下面列出的其他软件包

python3 -m pip install nvidia-<library>

元软件包

以下元软件包将在 Linux 上为指示的 CUDA 版本安装命名组件的最新版本。“cu12”应理解为“cuda12”。

  • nvidia-cuda-runtime-cu12

  • nvidia-cuda-cupti-cu12

  • nvidia-cuda-nvcc-cu12

  • nvidia-nvml-dev-cu12

  • nvidia-cuda-nvrtc-cu12

  • nvidia-nvtx-cu12

  • nvidia-cuda-sanitizer-api-cu12

  • nvidia-cublas-cu12

  • nvidia-cufft-cu12

  • nvidia-curand-cu12

  • nvidia-cusolver-cu12

  • nvidia-cusparse-cu12

  • nvidia-npp-cu12

  • nvidia-nvjpeg-cu12

  • nvidia-opencl-cu12

  • nvidia-nvjitlink-cu12

这些元软件包安装以下软件包

  • nvidia-nvml-dev-cu126

  • nvidia-cuda-nvcc-cu126

  • nvidia-cuda-runtime-cu126

  • nvidia-cuda-cupti-cu126

  • nvidia-cublas-cu126

  • nvidia-cuda-sanitizer-api-cu126

  • nvidia-nvtx-cu126

  • nvidia-cuda-nvrtc-cu126

  • nvidia-npp-cu126

  • nvidia-cusparse-cu126

  • nvidia-cusolver-cu126

  • nvidia-curand-cu126

  • nvidia-cufft-cu126

  • nvidia-nvjpeg-cu126

  • nvidia-opencl-cu126

  • nvidia-nvjitlink-cu126

3.1.7. Conda

Conda 软件包可在 https://anaconda.org/nvidia 获取。

安装

要使用 Conda 执行所有 CUDA 工具包组件的基本安装，请运行以下命令

conda install cuda -c nvidia

卸载

要使用 Conda 卸载 CUDA 工具包，请运行以下命令

conda remove cuda

3.1.8. WSL

如果您在 WSL 环境中安装，则必须使用这些说明。在这种情况下，请勿使用 Ubuntu 说明。

  1. 安装仓库元数据

sudo dpkg -i cuda-repo-<distro>_<version>_<architecture>.deb

  1. 更新 CUDA 公共 GPG 密钥

    sudo apt-key del 7fa2af80

    使用本地仓库安装时

    sudo cp /var/cuda-repo-ubuntu2004-12-0-local/cuda-*-keyring.gpg /usr/share/keyrings/

    使用网络仓库安装时

    wget https://developer.download.nvidia.com/compute/cuda/repos/<distro>/<arch>/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb

    Pin 文件以优先考虑 CUDA 仓库

    wget https://developer.download.nvidia.com/compute/cuda/repos/<distro>/<architecture>/cuda-<distro>.pin
sudo mv cuda-<distro>.pin /etc/apt/preferences.d/cuda-repository-pin-600

  2. 更新 Apt 仓库缓存并安装 CUDA

    sudo apt-get update
sudo apt-get install cuda

3.1.9. Ubuntu

在 Ubuntu 上安装 CUDA 时，您可以在 Runfile 安装程序和 Debian 安装程序之间进行选择。Runfile 安装程序仅作为本地安装程序提供。Debian 安装程序既可以作为本地安装程序，也可以作为网络安装程序提供。网络安装程序允许您仅下载所需的文件。本地安装程序是独立安装程序，初始下载量较大。对于 Debian 安装程序，本地和网络变体的说明是相同的。有关更多详细信息，请参阅Linux 安装指南。

3.1.9.1. Debian 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 安装仓库元数据，更新 GPG 密钥，更新 apt-get 缓存，然后安装 CUDA

    sudo dpkg --install cuda-repo-<distro>-<version>.<architecture>.deb
sudo apt-key del 7fa2af80
wget https://developer.download.nvidia.com/compute/cuda/repos/<distro>/<arch>/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo add-apt-repository contrib
sudo apt-get update
sudo apt-get -y install cuda

  2. 重启系统以加载 NVIDIA 驱动程序

    sudo reboot

  3. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  4. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.9.2. Runfile 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 禁用 Nouveau 驱动程序

    1. 在 /etc/modprobe.d/blacklist-nouveau.conf 创建一个文件，内容如下

      blacklist nouveau
options nouveau modeset=0

    2. 重新生成内核 initramfs

      sudo update-initramfs -u

  2. 通过将数字“3”和单词“nomodeset”临时添加到系统内核启动参数的末尾，重启进入运行级别 3。

  3. 以静默方式运行安装程序以使用默认选择进行安装（意味着接受 EULA）

    sudo sh cuda_<version>_linux.run --silent

  4. 创建一个 xorg.conf 文件以使用 NVIDIA GPU 进行显示

    sudo nvidia-xconfig

  5. 重启系统以加载图形界面

    sudo reboot

  6. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  7. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.10. Debian

在 Debian 10 上安装 CUDA 时，您可以在 Runfile 安装程序和 Debian 安装程序之间进行选择。Runfile 安装程序仅作为本地安装程序提供。Debian 安装程序既可以作为本地安装程序，也可以作为网络安装程序提供。网络安装程序允许您仅下载所需的文件。本地安装程序是独立安装程序，初始下载量较大。有关更多详细信息，请参阅Linux 安装指南。

3.1.10.1. Debian 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 安装仓库元数据，删除旧的 GPG 密钥，安装 GPG 密钥，更新 apt-get 缓存，然后安装 CUDA

    sudo dpkg -i cuda-repo-<distro>_<version>_<architecture>.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/debian10/x86_64/7fa2af80.pub
sudo apt-key del 7fa2af80
wget https://developer.download.nvidia.com/compute/cuda/repos/<distro>/<arch>/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo add-apt-repository contrib
sudo apt-get update
sudo apt-get -y install cuda

  2. 重启系统以加载 NVIDIA 驱动程序

    sudo reboot

  3. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  4. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

3.1.10.2. Runfile 安装程序

执行以下步骤以安装 CUDA 并验证安装。

  1. 禁用 Nouveau 驱动程序

    1. 在 /etc/modprobe.d/blacklist-nouveau.conf 创建一个文件，内容如下

      blacklist nouveau
options nouveau modeset=0

    2. 重新生成内核 initramfs

      sudo update-initramfs -u

  2. 通过将数字“3”和单词“nomodeset”临时添加到系统内核启动参数的末尾，重启进入运行级别 3。

  3. 以静默方式运行安装程序以使用默认选择进行安装（意味着接受 EULA）

    sudo sh cuda_<version>_linux.run --silent

  4. 创建一个 xorg.conf 文件以使用 NVIDIA GPU 进行显示

    sudo nvidia-xconfig

  5. 重启系统以加载图形界面

    sudo reboot

  6. 通过修改 PATH 和 LD_LIBRARY_PATH 变量来设置开发环境

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  7. 从 https://github.com/nvidia/cuda-samples 安装示例的可写副本，然后使用 https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody 中的 Linux 说明构建并运行 nbody 示例。

    注意

    通过导航到可执行文件的位置来运行示例，否则将无法找到依赖资源。

4. 注意事项

4.1. 注意事项

本文档仅供参考，不得视为对产品的特定功能、条件或质量的保证。NVIDIA Corporation（“NVIDIA”）对本文档中包含的信息的准确性或完整性不作任何明示或暗示的陈述或保证，并且对本文中包含的任何错误不承担任何责任。NVIDIA 对此类信息的使用后果或使用，或因使用此类信息而可能导致的侵犯第三方专利或其他权利的行为不承担任何责任。本文档不构成对开发、发布或交付任何材料（下文定义）、代码或功能的承诺。

NVIDIA 保留随时对此文档进行更正、修改、增强、改进和任何其他更改的权利，恕不另行通知。

客户在下订单前应获取最新的相关信息，并应验证此类信息是最新且完整的。

NVIDIA 产品根据订单确认时提供的 NVIDIA 标准销售条款和条件进行销售，除非 NVIDIA 和客户的授权代表签署的个别销售协议（“销售条款”）另有约定。NVIDIA 在此明确反对将任何客户通用条款和条件应用于购买本文档中引用的 NVIDIA 产品。本文件不直接或间接地形成任何合同义务。

NVIDIA 产品并非设计、授权或保证适用于医疗、军事、飞机、太空或生命支持设备，也不适用于 NVIDIA 产品的故障或失灵可能合理预期会导致人身伤害、死亡或财产或环境损害的应用。对于在上述设备或应用中包含和/或使用 NVIDIA 产品，NVIDIA 不承担任何责任，因此，此类包含和/或使用由客户自行承担风险。

NVIDIA 不保证或声明基于本文档的产品将适用于任何特定用途。NVIDIA 不一定对每个产品的所有参数进行测试。客户全权负责评估和确定本文档中包含的任何信息的适用性，确保产品适合客户计划的应用，并为该应用执行必要的测试，以避免应用或产品的默认设置。客户产品设计中的缺陷可能会影响 NVIDIA 产品的质量和可靠性，并可能导致超出本文档中包含的附加或不同条件和/或要求。对于可能基于以下原因或归因于以下原因的任何默认设置、损坏、成本或问题，NVIDIA 不承担任何责任：(i) 以任何违反本文档的方式使用 NVIDIA 产品，或 (ii) 客户产品设计。

本文件未授予 NVIDIA 专利权、版权或其他 NVIDIA 知识产权下的任何明示或暗示的许可。NVIDIA 发布的有关第三方产品或服务的信息不构成 NVIDIA 授予使用此类产品或服务的许可，也不构成对其的保证或认可。使用此类信息可能需要获得第三方在其专利或其他知识产权下的许可，或获得 NVIDIA 在其专利或其他 NVIDIA 知识产权下的许可。

只有在事先获得 NVIDIA 书面批准的情况下，才允许复制本文档中的信息，并且复制必须不得更改，必须完全遵守所有适用的出口法律和法规，并附带所有相关的条件、限制和声明。

本文档和所有 NVIDIA 设计规范、参考板、文件、图纸、诊断程序、列表和其他文档（统称为“材料”）均“按原样”提供。NVIDIA 不对材料作出任何明示、暗示、法定或其他方面的保证，并明确否认所有关于不侵权、适销性和特定用途适用性的暗示保证。在法律未禁止的范围内，在任何情况下，NVIDIA 均不对任何损害（包括但不限于任何直接、间接、特殊、附带、惩罚性或后果性损害）负责，无论因何种原因引起，也无论责任理论如何，即使 NVIDIA 已被告知可能发生此类损害。尽管客户可能因任何原因而遭受任何损害，但 NVIDIA 对本文所述产品的客户承担的累计总责任应根据产品的销售条款进行限制。

4.2. OpenCL

OpenCL 是 Apple Inc. 的商标，已获得 Khronos Group Inc. 的许可使用。

4.3. 商标

NVIDIA 和 NVIDIA 徽标是 NVIDIA Corporation 在美国和其他国家/地区的商标或注册商标。其他公司和产品名称可能是与其相关的各自公司的商标。