NVIDIA 文档中心

开始探索最新的技术信息和产品文档

New Homepage Image

按以下浏览
  • 文档中心
    Cloudera Data Platform (CDP)
    NVIDIA RAPIDS 集成到 Cloudera Data Platform (CDP) 中，提供了使用 Apache Spark 对数据分析工作负载进行透明的 GPU 加速。本文档介绍了集成以及建议的部署参考架构。
    • 建筑 / 工程 / 建造
    • 媒体和娱乐
    • 餐饮 / 快餐服务
  • 文档中心
    GPU 管理和部署
    本文档应该对企业 GPU 部署的集群管理员和支持人员有所帮助。它包括监控和管理工具以及应用程序编程接口 (API)、现场诊断和健康状况监控以及集群设置和部署。
  • 文档中心
    Megatron Core 用户指南
    Megatron Core 的开发者文档涵盖 API 文档、快速入门指南以及深入探讨大规模优化 LLM 性能所需的高级 GPU 技术。
  • 产品
    NV-Ingest
    NV-Ingest 是一个可扩展的、面向性能的文档内容和元数据提取微服务，它使用专门的 NVIDIA NIM 微服务来查找、关联和提取文本、表格、图表和图像，以用于下游生成式应用程序。
  • 文档中心
    nvCOMP
    nvCOMP 是一个高性能 GPU 启用的数据压缩库。包括开源和非 OS 组件。nvCOMP 库提供使用 GPU 的快速无损数据压缩和解压缩。它具有通用压缩接口，使开发人员能够在他们的应用程序中使用高性能 GPU 压缩器。
  • 产品
    NVIDIA AI Aerial
    NVIDIA AI Aerial™ 是一套加速计算平台、软件和服务，用于设计、模拟和运营无线网络。Aerial 包含用于电信公司、云服务提供商 (CSP) 和构建商业 5G 网络的企业的强化 RAN 软件库。学术界和工业界研究人员可以在云端或本地设置上访问 Aerial，以进行高级无线和 AI/机器学习 (ML) 研究，从而为 6G 做准备。
    • 边缘计算
    • 电信
  • 产品
    NVIDIA AI Enterprise
    NVIDIA AI Enterprise 是一个端到端的云原生软件平台，可加速数据科学管道，并简化生产级副驾驶和其他生成式 AI 应用程序的开发和部署。易于使用的微服务提供优化的模型性能以及企业级的安全性、支持和稳定性，以确保在 AI 上运行业务的企业从原型到生产的平稳过渡。
    • 建筑 / 工程 / 建造
    • 媒体和娱乐
    • 餐饮 / 快餐服务
  • 文档中心
    NVIDIA Air
    一个模拟平台，允许用户使用完整的软件功能对数据中心部署进行建模，从而创建数字孪生。通过模拟、验证和自动化更改和更新来转换和简化网络运营。
  • 文档中心
    NVIDIA Ansel
    NVIDIA Ansel 是一种革命性的方式，可以捕捉游戏中的镜头并分享精彩瞬间。从任何位置构图您的屏幕截图，使用后期处理滤镜调整它们，以高保真格式捕捉 HDR 图像，并使用您的手机、PC 或 VR 头显以 360 度分享它们。
  • 文档中心
    NVIDIA API 文档
    您的 NVIDIA API 指南，包括 NIM 和 CUDA-X 微服务。
  • 产品
    NVIDIA Attestation
    NVIDIA Attestation Suite 通过提供强大的机制来确保设备和平台的完整性和安全性，从而增强机密计算。该套件包括 NVIDIA Remote Attestation Service (NRAS)、Reference Integrity Manifest (RIM) Service 和 NDIS OCSP Responder。
    • 航空航天
    • 硬件 / 半导体
    • 建筑 / 工程 / 建造
  • 产品
    NVIDIA Base Command Manager
    NVIDIA Base Command Manager 简化了集群配置、工作负载管理和基础设施监控。它提供了部署和管理 AI 数据中心所需的所有工具。NVIDIA Base Command Manager Essentials 包含 NVIDIA Base Command Manager 的功能，这些功能已通过 NVIDIA AI Enterprise 认证。
    • 数据中心 / 云
  • 技术概述
    NVIDIA Base Command Platform
    NVIDIA Base Command Platform 是一个世界一流的基础设施解决方案，适用于需要高级 AI 开发体验的企业及其数据科学家。
    • 建筑 / 工程 / 建造
    • 媒体和娱乐
    • 餐饮 / 快餐服务
  • 产品
    NVIDIA Base OS
    NVIDIA Base OS 实现了稳定且完全合格的操作系统，用于在 DGX 平台上运行 AI、机器学习和分析应用程序。它包括特定于系统的配置、驱动程序以及诊断和监控工具，适用于 Ubuntu、Red Hat Enterprise Linux 和 Rocky Linux。
    • 数据中心 / 云
  • 电子书
    NVIDIA Brev
    一个 AI/ML 开发平台，允许您在云端运行、构建、训练和部署 ML 模型。Brev 允许您从 CPU 实例上的小型项目开始，并毫不费力地扩展到更大的 GPU 集群，以应对任何工作负载。
  • 文档中心
    NVIDIA Bright Cluster Manager
    NVIDIA Bright Cluster Manager 为边缘、数据中心以及多/混合云环境中的异构 HPC 和 AI 服务器集群提供快速部署和端到端管理。它自动化了从单个节点到数十万个节点大小的集群的配置和管理，支持基于 CPU 和 NVIDIA GPU 加速的系统，以及与 Kubernetes 的编排。
    • HPC / 科学计算
    • 边缘计算
    • 数据中心 / 云
  • 文档中心
    NVIDIA Capture SDK
    NVIDIA Capture SDK（以前称为 GRID SDK）使开发人员能够轻松有效地捕获显示内容，并可选择对其进行编码。
  • 文档中心
    NVIDIA 认证计划
    NVIDIA 的计划使企业能够自信地部署硬件解决方案，以最佳方式运行加速的工作负载——从桌面到数据中心再到边缘。
    • 建筑 / 工程 / 建造
    • 媒体和娱乐
    • 餐饮 / 快餐服务
  • 产品
    NVIDIA Clara
    NVIDIA® Clara™ 是一个开放的、可扩展的计算平台，使开发人员能够构建和部署医疗影像应用程序到混合（嵌入式、本地或云）计算环境中，以创建智能仪器并自动化医疗保健工作流程。
    • 医疗保健和生命科学
    • 计算机视觉 / 视频分析
  • 产品
    NVIDIA Cloud Functions
    用于在行星级规模的 GPU 上部署和管理 AI 工作负载的无服务器 API。
  • 产品
    NVIDIA Cloud Native Technologies
    NVIDIA 云原生技术使开发人员能够使用 Docker 和 Kubernetes 构建和运行 GPU 加速的容器。
    • 云服务
    • 数据中心 / 云
  • 文档中心
    NVIDIA CloudXR SDK
    CloudXR 是 NVIDIA 的解决方案，用于从远程服务器（桌面、云、数据中心或边缘）上的任何 OpenVR XR 应用程序流式传输虚拟现实 (VR)、增强现实 (AR) 和混合现实 (MR) 内容。
  • 文档中心
    NVIDIA Compute Sanitizer
    Compute Sanitizer 是 CUDA 工具包中包含的功能正确性检查套件。此套件包含多个可以执行不同类型检查的工具。memcheck 工具能够精确检测和归因 CUDA 应用程序中越界和未对齐的内存访问错误。该工具还可以报告 GPU 遇到的硬件异常。racecheck 工具可以报告可能导致数据竞争的共享内存数据访问风险。initcheck 工具可以报告 GPU 对全局内存执行未初始化访问的情况。synccheck 工具可以报告应用程序尝试无效使用同步原语的情况。本文档介绍了这些工具的用法。
  • 产品
    NVIDIA Cosmos
    一个以开发者为先的世界基础模型 (WFM) 平台，旨在帮助物理 AI 开发者更好更快地构建他们的物理 AI 系统。
  • 产品
    NVIDIA CUDA
    NVIDIA® CUDA® 工具包为构建 GPU 加速应用程序的 C 和 C++ 开发人员提供了全面的开发环境。借助 CUDA 工具包，您可以在 GPU 加速的嵌入式系统、桌面工作站、企业数据中心、云平台和 HPC 超级计算机上开发、优化和部署应用程序。
    • 建筑 / 工程 / 建造
    • 媒体和娱乐
    • 餐饮 / 快餐服务
  • 文档中心
    NVIDIA cuDNN
    NVIDIA CUDA® 深度神经网络 (cuDNN) 是一个用于深度神经网络的 GPU 加速原语库。cuDNN 为标准例程（例如前向和后向卷积、注意力机制、matmul、池化和归一化）提供高度优化的实现。
    • 建筑 / 工程 / 建造
    • 媒体和娱乐
    • 餐饮 / 快餐服务
  • 产品
    NVIDIA cuOpt
    NVIDIA cuOpt™ 是一个 GPU 加速求解器，它使用启发式和元启发式算法来解决具有各种约束的复杂车辆路径问题变体。
    • 数据科学
    • 机器人技术
  • 产品
    NVIDIA DALI
    NVIDIA 数据加载库 (DALI) 是一个高度优化的构建块集合和一个执行引擎，用于加速深度学习应用程序的输入数据预处理。DALI 作为一个单一库，既提供了性能，又提供了加速不同数据管道的灵活性。然后，这个单一库可以轻松集成到不同的深度学习训练和推理应用程序中。
    • 航空航天
    • 硬件 / 半导体
    • 建筑 / 工程 / 建造
  • 文档中心
    NVIDIA 数据中心 GPU 驱动程序
    NVIDIA 数据中心 GPU 驱动程序用于数据中心 GPU 企业部署，以用于 AI、HPC 和加速计算工作负载。文档包括发行说明、支持的平台以及集群设置和部署。
  • 文档中心
    NVIDIA 数据中心 GPU 管理器 (DCGM)
    NVIDIA 数据中心 GPU 管理器 (DCGM) 是一套用于管理和监控集群环境中 NVIDIA 数据中心 GPU 的工具。
    • 航空航天
    • 硬件 / 半导体
    • 建筑 / 工程 / 建造
  • 文档中心
    NVIDIA Deep Graph Library (DGL)
    Deep Graph Library (DGL) 是一个框架中立、易于使用且可扩展的 Python 库，用于实现和训练图神经网络 (GNN)。DGL 是框架中立的，因此可以轻松集成到现有的 PyTorch、TensorFlow 或 Apache MXNet 工作流程中。
  • 文档中心
    NVIDIA 深度学习性能
    GPU 通过并行执行计算来加速机器学习操作。许多操作，尤其是那些可以表示为矩阵乘法的操作，将在开箱即用的情况下看到良好的加速效果。通过调整操作参数以有效地使用 GPU 资源，可以实现更好的性能。性能文档介绍了我们认为最广泛有用的技巧。
    • 建筑 / 工程 / 建造
    • 媒体和娱乐
    • 餐饮 / 快餐服务
  • 产品
    NVIDIA DGX Cloud
    NVIDIA DGX Cloud 是一个面向企业开发人员的 AI 平台，针对生成式 AI 的需求进行了优化。
  • 产品
    NVIDIA DGX 平台
    NVIDIA DGX 平台从头开始为企业 AI 构建，融合了 NVIDIA 软件、基础设施和专业知识的精华，打造出现代化、统一的 AI 开发和训练解决方案。DGX 平台的方方面面都融入了 NVIDIA AI 专业知识，包括世界一流的软件、打破记录的 NVIDIA 加速基础设施（在云端或本地）以及直接访问 NVIDIA DGXPerts 的权限，从而加速每个企业的 AI 投资回报率。
    • 硬件 / 半导体
    • 建筑 / 工程 / 建造
    • HPC / 科学计算
  • 产品
    NVIDIA DGX SuperPOD
    NVIDIA DGX SuperPOD 的部署和管理指南，DGX SuperPOD 是一个 AI 数据中心基础设施平台，使 IT 部门能够为每个用户和工作负载提供毫不妥协的性能。DGX SuperPOD 为最具挑战性的 AI 和高性能计算 (HPC) 工作负载提供领先级的加速基础设施和敏捷、可扩展的性能，并具有行业验证的结果。
    • 数据中心 / 云
  • 产品
    NVIDIA DGX Systems
    DGX AI 超级计算机的系统文档，这些超级计算机为大型生成式 AI 和主流 AI 工作负载提供世界一流的性能。
    • 数据中心 / 云
  • 文档中心
    NVIDIA DIGITS
    NVIDIA 深度学习 GPU 训练系统 (DIGITS) 可用于快速训练高度精确的深度神经网络 (DNN)，以用于图像分类、分割和对象检测任务。DIGITS 简化了常见的深度学习任务，例如管理数据、在多 GPU 系统上设计和训练神经网络、使用高级可视化实时监控性能，以及从结果浏览器中选择性能最佳的模型进行部署。
    • 建筑 / 工程 / 建造
    • 媒体和娱乐
    • 餐饮 / 快餐服务
  • 文档中心
    NVIDIA EGX
    NVIDIA EGX 平台通过云原生软件堆栈 (EGX 堆栈)、一系列经过验证的服务器和设备、Helm 图表以及通过其产品和服务提供 EGX 的合作伙伴，将加速 AI 计算的强大功能交付到边缘。
  • 产品
    NVIDIA 企业支持和服务
    NVIDIA 的加速计算、可视化和网络解决方案正在加快业务成果的速度。NVIDIA 的专家随时为您提供快速发展的旅程中的每一步帮助。凭借我们广泛的支持层级、快速实施、强大的专业服务、市场领先的教育和高水平的技术认证，我们在此帮助您在使用 NVIDIA 加速计算、可视化和网络平台的各个方面取得成功。
  • 文档中心
    NVIDIA FLARE (Federated Learning Active Runtime Environment)
    FLARE（联邦学习活动运行时环境）是 Nvidia 的开源可扩展 SDK，允许研究人员和数据科学家调整现有的 ML/DL 工作流程，以适应保护隐私的联邦范式。FLARE 使构建强大、可泛化的 AI 模型成为可能，而无需共享数据。
  • 产品
    NVIDIA Gameworks
    GameWorks 相关产品和技术文档，包括库（NVAPI、OpenAutomate）、代码示例（DirectX、OpenGL）和开发者工具（Nsight、NVIDIA System Profiler）。
    • 游戏
    • 内容创作 / 渲染
  • 文档中心
    NVIDIA GeForce NOW 开发者平台
    GeForce NOW 开发者平台是一个 SDK 和工具集，支持与 NVIDIA 云游戏服务集成、交互和测试。
  • 文档中心
    NVIDIA GPUDirect Storage
    NVIDIA GPUDirect Storage (GDS) 通过避免复制到系统内存和从系统内存复制，从而实现 GPU 内存和存储之间最快的数据路径，从而提高存储输入/输出 (IO) 带宽并降低延迟和 CPU 利用率。
    • 航空航天
    • 硬件 / 半导体
    • 建筑 / 工程 / 建造
  • 产品
    NVIDIA Grace
    Grace 是 NVIDIA 的首款数据中心 CPU。Grace 包含 72 个高性能 Arm v9 内核，并采用 NVIDIA 专有的可扩展一致性互连 (SCF) 片上网络，可实现令人难以置信的内核到内核通信、内存带宽和 GPU I/O 功能，从而在低功耗片上系统中提供高性能计算基础。
    • 数据中心 / 云
  • 文档中心
    NVIDIA GVDB Voxels
    NVIDIA GVDB Voxels 是一个新的框架，用于在 GPU 上模拟、计算和渲染稀疏体素。
  • 外部页面
    DRIVE Software 9.0 发行说明
    您请求访问的内容仅限 NVIDIA DRIVE AGX SDK 计划的成员。
  • 外部页面
    使用 NVIDIA SDK Manager 快速入门指南安装 DRIVE AGX 系统
    您请求访问的内容仅限 NVIDIA DRIVE AGX SDK 计划的成员。
  • 外部页面
    DRIVE Software 9.0 文档
    您请求访问的内容仅限 NVIDIA DRIVE AGX SDK 计划的成员。
  • 外部页面
    NVIDIA DRIVE AR/IX/Hub
    您请求访问的内容仅限 NVIDIA DRIVE AGX SDK 计划的成员。
  • 外部页面
    DRIVE Software 9.0 许可证
    您请求访问的内容仅限 NVIDIA DRIVE AGX SDK 计划的成员。
  • 外部页面
    DRIVE PX 2 AutoCruise 快速入门指南 (PDF)
    您请求访问的内容仅限 NVIDIA DRIVE Developer Program for NVIDIA DRIVE PX 2 的成员。
  • 外部页面
    DRIVE OS 5.0.10.3 Linux 开源软件
    存档版本
  • 外部页面
    FLARE 产品信息
    FLARE（联邦学习活动运行时环境）是 Nvidia 的开源可扩展 SDK，允许研究人员和数据科学家调整现有的 ML/DL 工作流程，以适应保护隐私的联邦范式。FLARE 使构建强大、可泛化的 AI 模型成为可能，而无需共享数据。
  • 外部页面
    FME
    Feature Map Explorer (FME) 支持使用一系列视图（从低级通道可视化到有关每个通道切片的详细数值信息）来可视化 4 维基于图像的特征图数据。
  • 外部页面
    NVIDIA WaveWorks
    NVIDIA WaveWorks 使开发人员能够为交互式应用程序提供电影质量的海洋模拟。该模拟在频域中使用光谱波模型进行风浪和位移，并使用速度势进行交互式波浪模拟。然后，一组逆 FFT 步骤转换为空间域，以便进行渲染。NVIDIA WaveWorks 模拟通过简单的 C API 进行初始化和控制，结果作为本机图形 API 对象进行访问以进行渲染。参数化通过直观的真实世界变量（例如风速和风向）进行。这些参数可用于调整海面外观以适应各种条件 - 从轻柔的涟漪到基于蒲福风级的狂风暴雨的海洋。
  • 文档中心
    NVIDIA Highlights
    NVIDIA Highlights 支持自动视频捕捉关键时刻、关键击杀和制胜一击，确保玩家的最佳游戏时刻始终被保存。一旦捕捉到精彩瞬间，游戏玩家就可以直接从 GeForce Experience 的游戏内覆盖层将其直接分享到 Facebook、YouTube 或微博。此外，他们还可以剪辑自己最喜欢的 15 秒并作为动画 GIF 分享 - 所有这些都无需离开游戏！
  • 外部页面
    NIDIA Isaac GitHub
    欢迎来到 Isaac，这是一个用于制造自主机器人的软件包集合。
  • 文档中心
    NVIDIA IndeX
    NVIDIA IndeX 是一个 3D 体积交互式可视化 SDK，使科学家和研究人员能够可视化和交互处理海量数据集，进行实时修改，并导航到数据中最相关的部分，所有这些都是实时的，从而更快地收集更好的见解。IndeX 利用 GPU 集群进行可扩展的实时可视化和多值体积数据计算以及嵌入式几何数据。
  • 外部页面
    NIDIA Isaac ROS GitHub
    欢迎来到 Isaac ROS，这是一个用于制造自主机器人的 ROS2 软件包集合。
  • 外部页面
    JetPack 补充文档
    请参阅下文以获取可下载的文档、软件和其他资源。
  • 外部页面
    Jetson Linux Release 28.4：补充文档
    早期版本的 Jetson Linux 文档。
  • 文档中心
    NVIDIA MAGNUM IO
    NVIDIA MAGNUM IO™ 软件开发工具包 (SDK) 使开发人员能够消除 AI、高性能计算 (HPC)、数据科学和可视化应用程序中的输入/输出 (IO) 瓶颈，从而缩短其工作流程的端到端时间。Magnum IO 涵盖了虚拟化、容器化和裸机环境中 CPU、GPU、DPU 和存储子系统之间数据移动的所有方面。
  • 文档中心
    NVIDIA libcu++
    ibcu++，NVIDIA C++ 标准库，为您的整个系统提供 C++ 标准库，该库可以在 CPU 和 GPU 代码中以及两者之间使用。
  • 文档中心
    NVIDIA Material Definition Language (MDL)
    NVIDIA Material Definition Language (MDL) 是一种用于定义物理渲染材质的编程语言。MDL SDK 是一组将 MDL 支持集成到渲染应用程序中的工具。它包含用于加载、检查、编辑材质定义以及将 MDL 函数编译为 GLSL、HLSL、Native x86、PTX 和 LLVM-IR 的组件。借助 NVIDIA MDL SDK，任何基于物理的渲染器都可以轻松添加对 MDL 的支持并加入 MDL 生态系统。
  • 外部页面
    使用校准将视频数据转换为真实世界
    DeepStream SDK 3.0 旨在超越像素。DeepStream 的存在是为了让您更容易从原始视频数据转变为可以分析以获得可操作见解的元数据。
  • 外部页面
    PhysX SDK
    NVIDIA PhysX 是一个可扩展的多平台物理模拟解决方案，支持从智能手机到高端多核 CPU 和 GPU 的各种设备。强大的 SDK 为从传统 VFX 和游戏开发工作流程到高保真机器人技术、医疗模拟和科学可视化应用程序的工业模拟用例带来了高性能和精确的准确性。
  • 外部页面
    NVIDIA PyTorch SDK
    NVIDIA 与 Facebook 和社区合作，在主 PyTorch 分支以及 NGC 中随时可用的容器中加速 NVIDIA GPU 上的 PyTorch。
  • 外部页面
    DLSS
    NVIDIA DLSS 是一个新的改进的深度学习神经网络，可提高帧率并为您的游戏生成精美、清晰的图像。
  • 文档中心
    OptiX
    一个应用程序框架，用于在 GPU 上实现最佳光线追踪性能。
  • 文档中心
    Texture Tools 3
    使用 NVTT 3 创建块压缩纹理并编写自定义资产管道，NVTT 3 是一个用于 CUDA 加速纹理压缩和图像处理的 SDK。
  • 文档中心
    Texture Tools Exporter
    Photoshop 纹理插件的新版本；允许创作者导入和导出 GPU 压缩纹理格式（如 DDS 和 KTX），并在 GPU 上应用图像处理效果。使用 NVTT（NVIDIA Texture Tools，专有版本 - 这是单独的 Exporter）作为基础库。包括用于脚本编写和在开发者工具链中使用的命令行界面。
  • 文档中心
    NVIDIA Turing Mesh Shaders
    Turing 架构通过使用网格着色器引入了一种新的可编程几何着色管道。新的着色器将计算编程模型引入图形管道，因为线程协同工作以直接在芯片上生成紧凑的网格（meshlet），以供光栅化器使用。
  • 文档中心
    Unified Compute Framework 文档
    NVIDIA Unified Compute Framework (UCF) 是一个低代码框架，用于开发云原生、实时和多模态 AI 应用程序。它具有用于微服务和应用程序的低代码设计工具，以及优化的微服务和示例应用程序的集合。Unified Compute Framework 采用微服务架构方法，使开发人员能够将微服务组合到云原生应用程序或服务中，以满足交互式 AI 用例的实时要求。
  • 文档中心
    NVIDIA VRWorks Graphics
    VRWorks™ 是一套全面的 API、库和引擎，使应用程序和头显开发人员能够创造惊人的虚拟现实体验。VRWorks 通过将物理上逼真的视觉效果、声音、触摸交互和模拟环境带入虚拟现实，从而实现新的临场感水平。
  • 文档中心
    OpenACC
    OpenACC 是一种基于指令的编程模型，旨在为加速器提供简单而强大的方法，而无需大量的编程工作。借助 OpenACC，单个版本的源代码将在各个平台上实现性能可移植性。OpenACC 为科学家和研究人员提供了一条快速实现加速计算的途径，而无需大量的编程工作。通过将编译器“提示”或指令插入到您的 C11、C++17 或 Fortran 2003 代码中，使用 NVIDIA OpenACC 编译器，您可以卸载并在 GPU 和 CPU 上运行您的代码。
  • 文档中心
    Spark XGBoost
    GPU 加速增强了梯度提升库 XGBoost，以提供快速准确的方法来解决大规模 AI 和数据科学问题。
  • 文档中心
    Thrust Library
    Thrust 是一个强大的并行算法和数据结构库。Thrust 为 GPU 编程提供了一个灵活、高级的接口，大大提高了开发人员的生产力。使用 Thrust，C++ 开发人员只需编写几行代码即可执行 GPU 加速的排序、扫描、转换和归约操作，其速度比最新的多核 CPU 快几个数量级。
  • 文档中心
    TensorRT 存档
    这些存档提供了对先前发布的 TensorRT 文档版本的访问权限。
  • 文档中心
    TensorRT TensorFlow 量化工具包文档
    NVIDIA TensorFlow 量化工具包提供了一个简单的 API 来量化给定的 Keras 模型。最初，网络在目标数据集上训练，直到完全收敛。量化步骤包括在预训练网络中插入 Q/DQ 节点，以模拟训练期间的量化。然后对网络进行几个 epoch 的再训练，以在一个称为微调的步骤中恢复精度。
  • 文档中心
    TensorRT PyTorch-Quantization 工具包文档
    PyTorch-Quantization 是一个用于使用模拟量化训练和评估 PyTorch 模型的工具包。可以将量化自动或手动添加到模型中，从而可以调整模型的精度和性能。量化模型可以导出到 ONNX 并导入到即将发布的 TensorRT 版本中。
  • 文档中心
    TensorRT Polygraphy API 参考
    这是 Polygraphy 的 Python API 文档。Polygraphy 是一个旨在帮助在各种框架中运行和调试深度学习模型的工具包。
  • 文档中心
    TensorRT ONNX GraphSurgeon API 参考
    这是 ONNX GraphSurgeon 的 Python API 文档。ONNX GraphSurgeon 提供了一种创建和修改 ONNX 模型的便捷方法。
  • 文档中心
    TensorRT 容器发行说明
    TensorRT 容器是一个易于使用的容器，用于 TensorRT 开发。该容器允许您构建、修改和执行 TensorRT 示例。这些发行说明提供了容器中关键功能、打包软件、软件增强和改进以及最新和早期版本的已知问题的列表。TensorRT 容器每月发布一次，为您提供最新的 NVIDIA 深度学习软件库和已向上游发送的 GitHub 代码贡献。这些库和贡献都经过了测试、调整和优化。
  • 文档中心
    TensorRT 示例支持指南
    本示例支持指南概述了 GitHub 和产品包中包含的所有受支持的 NVIDIA TensorRT 示例。TensorRT 示例专门帮助推荐系统、机器理解、字符识别、图像分类和对象检测等领域。
  • 文档中心
    TensorRT 运算符参考
    在 TensorRT 中，运算符代表不同风格的数学和编程操作。以下部分描述了 TensorRT 支持的每个运算符。TensorRT 所需的最小工作空间取决于网络使用的运算符。建议的最小构建时设置为 16 MB。无论提供给构建器的最大工作空间值是多少，TensorRT 在运行时分配的工作空间都不会超过其所需的工作空间。
  • 文档中心
    TensorRT 开发者指南
    本 NVIDIA TensorRT 开发者指南演示了如何使用 C++ 和 Python API 来实现最常见的深度学习层。它展示了如何使用深度学习框架构建现有模型，并使用提供的解析器构建 TensorRT 引擎。开发者指南还提供了常见用户任务的分步说明，例如创建 TensorRT 网络定义、调用 TensorRT 构建器、序列化和反序列化，以及如何使用数据馈送引擎并执行推理；所有这些都使用 C++ 或 Python API。
  • 文档中心
    TensorRT API 参考
    这是 NVIDIA TensorRT 库的 API 参考文档。以下 API 集允许开发人员导入预训练模型、校准 INT8 网络，以及使用 TensorRT 构建和部署优化的网络。网络可以从 ONNX 导入。它们也可以通过使用 C++ 或 Python API 实例化各个层并直接设置参数和权重来以编程方式创建。
  • 文档中心
    TensorRT 安装指南
    本 NVIDIA TensorRT 安装指南提供了安装要求、TensorRT 包中包含的内容列表以及安装 TensorRT 的分步说明。
  • 文档中心
    NVIDIA DALI 用户指南
    NVIDIA 数据加载库 (DALI) 是一个高度优化的构建块集合和一个执行引擎，用于加速深度学习应用程序的输入数据预处理。DALI 作为一个单一库，既提供了性能，又提供了加速不同数据管道的灵活性。然后，这个单一库可以轻松集成到不同的深度学习训练和推理应用程序中。
  • 文档中心
    NVIDIA DALI 发行说明
    本文档描述了 DALI 的主要功能、软件增强和改进以及已知问题。
  • 文档中心
    NVIDIA DALI SLA 文档
    本文档是 NVIDIA 数据加载库 (DALI) 的软件许可协议 (SLA)。本文档包含 NVIDIA DALI 的特定许可条款和条件。通过接受本协议，您同意遵守适用于此处包含的特定产品的所有条款和条件。
  • 文档中心
    NVIDIA Deep Graph Library (DGL)
    Deep Graph Library (DGL) 是一个框架中立、易于使用且可扩展的 Python 库，用于实现和训练图神经网络 (GNN)。DGL 是框架中立的，因此可以轻松集成到现有的 PyTorch、TensorFlow 或 Apache MXNet 工作流程中。
  • 文档中心
    NVIDIA DRIVE
    了解如何为 NVIDIA DRIVE® 开发，NVIDIA DRIVE® 是一个可扩展的计算平台，使汽车制造商和一级供应商能够加速自动驾驶汽车的生产。
  • 文档中心
    NVIDIA EGX
    NVIDIA EGX 平台通过云原生软件堆栈 (EGX 堆栈)、一系列经过验证的服务器和设备、Helm 图表以及通过其产品和服务提供 EGX 的合作伙伴，将加速 AI 计算的强大功能交付到边缘。
  • 文档中心
    NVIDIA FLARE (Federated Learning Active Runtime Environment)
    FLARE（联邦学习活动运行时环境）是 Nvidia 的开源可扩展 SDK，允许研究人员和数据科学家调整现有的 ML/DL 工作流程，以适应保护隐私的联邦范式。FLARE 使构建强大、可泛化的 AI 模型成为可能，而无需共享数据。