CUPTI

CUPTI API 参考文档，CUDA Profiling Tools Interface。CUPTI API

目录

• 概述

• 1. 发行说明
  • 1.1. 发行说明
    • 1.1.1. CUDA 12.8 中的更新
    • 1.1.2. CUDA 12.6 Update 2 中的更新
    • 1.1.3. CUDA 12.6 Update 1 中的更新
    • 1.1.4. CUDA 12.6 中的更新
    • 1.1.5. CUDA 12.5 Update 1 中的更新
    • 1.1.6. CUDA 12.5 中的更新
    • 1.1.7. CUDA 12.4 Update 1 中的更新
    • 1.1.8. CUDA 12.4 中的更新
    • 1.1.9. CUDA 12.3 Update 1 中的更新
    • 1.1.10. CUDA 12.3 中的更新
    • 1.1.11. CUDA 12.2 Update 2 中的更新
    • 1.1.12. CUDA 12.2 Update 1 中的更新
    • 1.1.13. CUDA 12.2 中的更新
    • 1.1.14. CUDA 12.1 Update 1 中的更新
    • 1.1.15. CUDA 12.1 中的更新
    • 1.1.16. CUDA 12.0 Update 1 中的更新
    • 1.1.17. CUDA 12.0 中的更新
    • 1.1.18. 早期版本
      • 1.1.18.1. CUDA 11.8 中的更新
      • 1.1.18.2. CUDA 11.7 Update 1 中的更新
      • 1.1.18.3. CUDA 11.7 中的更新
      • 1.1.18.4. CUDA 11.6 Update 1 中的更新
      • 1.1.18.5. CUDA 11.6 中的更新
      • 1.1.18.6. CUDA 11.5 Update 1 中的更新
      • 1.1.18.7. CUDA 11.5 中的更新
      • 1.1.18.8. CUDA 11.4 Update 1 中的更新
      • 1.1.18.9. CUDA 11.4 中的更新
      • 1.1.18.10. CUDA 11.3 中的更新
      • 1.1.18.11. CUDA 11.2 中的更新
      • 1.1.18.12. CUDA 11.1 中的更新
      • 1.1.18.13. CUDA 11.0 中的更新
      • 1.1.18.14. CUDA 10.2 中的更新
      • 1.1.18.15. CUDA 10.1 Update 2 中的更新
      • 1.1.18.16. CUDA 10.1 Update 1 中的更新
      • 1.1.18.17. CUDA 10.1 中的更新
      • 1.1.18.18. CUDA 10.0 中的更新
      • 1.1.18.19. CUDA 9.2 中的更新
      • 1.1.18.20. CUDA 9.1 中的更新
      • 1.1.18.21. CUDA 9.0 中的更新
      • 1.1.18.22. CUDA 8.0 中的更新
      • 1.1.18.23. CUDA 7.5 中的更新
      • 1.1.18.24. CUDA 7.0 中的更新
      • 1.1.18.25. CUDA 6.5 中的更新
      • 1.1.18.26. CUDA 6.0 中的更新
      • 1.1.18.27. CUDA 5.5 中的更新
  • 1.2. 已知问题
    • 1.2.1. 性能分析
      • 1.2.1.1. Event 和 Metric API
      • 1.2.1.2. Profiling 和 Range Profiling API
  • 1.3. 支持
    • 1.3.1. 平台支持
    • 1.3.2. GPU 支持
• 2. 用法
  • 2.1. CUPTI 兼容性和要求
  • 2.2. CUPTI 初始化
  • 2.3. CUPTI Activity API
    • 2.3.1. SASS 源码关联
    • 2.3.2. PC 采样
    • 2.3.3. NVLink
    • 2.3.4. OpenACC
    • 2.3.5. CUDA Graphs
    • 2.3.6. 外部关联
    • 2.3.7. 动态附加和分离
    • 2.3.8. 设备内存分配源跟踪
  • 2.4. CUPTI Callback API
    • 2.4.1. Driver 和 Runtime API 回调
    • 2.4.2. 资源回调
    • 2.4.3. 同步回调
    • 2.4.4. NVIDIA Tools Extension 回调
    • 2.4.5. 状态回调
  • 2.5. CUPTI Profiler Host API
    • 2.5.1. 枚举
    • 2.5.2. 配置
    • 2.5.3. 评估
  • 2.6. CUPTI Range Profiling API
    • 2.6.1. 用法
    • 2.6.2. API 用法
    • 2.6.3. 代码示例
  • 2.7. CUPTI PC Sampling API
    • 2.7.1. 配置属性
    • 2.7.2. Stall Reasons 映射表
    • 2.7.3. 数据结构映射表
    • 2.7.4. 数据刷新
    • 2.7.5. SASS 源码关联
    • 2.7.6. API 用法
    • 2.7.7. 局限性
  • 2.8. CUPTI SASS Metric API
    • 2.8.1. API 用法
    • 2.8.2. 代码示例
  • 2.9. CUPTI PM Sampling API
    • 2.9.1. API 用法
    • 2.9.2. 代码示例
    • 2.9.3. 指标表
  • 2.10. CUPTI Checkpoint API
    • 2.10.1. 用法
    • 2.10.2. 限制
    • 2.10.3. 示例
  • 2.11. CUPTI Profiling API
    • 2.11.1. 多Pass收集
    • 2.11.2. Range Profiling
      • 2.11.2.1. Auto Range
      • 2.11.2.2. User Range
    • 2.11.3. CUPTI Profiler 定义
    • 2.11.4. 与 event 和 metric API 的区别
  • 2.12. Perfworks Metric API
    • 2.12.1. 派生指标
    • 2.12.2. 原始指标
    • 2.12.3. 指标映射表
    • 2.12.4. Events 映射表
  • 2.13. CUPTI Event API
    • 2.13.1. 收集 Kernel 执行事件
    • 2.13.2. 采样事件
  • 2.14. CUPTI Metric API
    • 2.14.1. 指标参考
      • 2.14.1.1. Capability 5.x 的指标
      • 2.14.1.2. Capability 6.x 的指标
      • 2.14.1.3. Capability 7.0 的指标
  • 2.15. 性能分析 API 的演变
  • 2.16. CUPTI 开销
    • 2.16.1. Tracing 开销
      • 2.16.1.1. 执行开销
      • 2.16.1.2. 内存开销
    • 2.16.2. Profiling 开销
  • 2.17. 可再现性
    • 2.17.1. 固定时钟频率
    • 2.17.2. 序列化
    • 2.17.3. 其他问题
  • 2.18. 示例
• 3. 库支持
  • 3.1. OptiX
• 4. 特殊配置
  • 4.1. Multi-Instance GPU (MIG)
  • 4.2. NVIDIA Virtual GPU (vGPU)
  • 4.3. Windows Subsystem for Linux (WSL)
• 5. 模块
• 6. 数据结构
• 7. 命名空间

• 版权和许可
  • NVIDIA 软件许可协议
  • 第三方许可
    • Boost
    • Flatbuffers
    • Font - Cascadia Mono
    • Font - Open Sans
    • Font - Roboto
    • Microsoft Detours
• 声明
  • 声明
  • 商标