5.1. CUPTI Activity API

实现 CUPTI Activity API 的函数、类型和枚举。

数据结构

CUpti_Activity: 基础活动记录。
CUpti_ActivityAPI: 驱动程序或运行时 API 调用的活动记录。
CUpti_ActivityAutoBoostState: 设备自动加速状态结构。
CUpti_ActivityBranch2: 源级别结果分支的活动记录。
CUpti_ActivityCdpKernel: CDP (CUDA 动态并行) 内核的活动记录。
CUpti_ActivityContext3: 上下文的活动记录。
CUpti_ActivityCudaEvent2: CUDA 事件的活动记录。
CUpti_ActivityDevice5: 设备的活动记录。
CUpti_ActivityDeviceAttribute: 设备属性的活动记录。
CUpti_ActivityDeviceGraphTrace: 设备图执行跟踪的活动记录。
CUpti_ActivityEnvironment: CUPTI 环境数据的活动记录。
CUpti_ActivityEvent: CUPTI 事件的活动记录。
CUpti_ActivityEventInstance: 具有实例信息的 CUPTI 事件的活动记录。
CUpti_ActivityExternalCorrelation: 与外部记录关联的活动记录。
CUpti_ActivityFunction: 全局/设备函数的活动记录。
CUpti_ActivityGlobalAccess3: 源级别全局访问的活动记录。
CUpti_ActivityGraphTrace2: 图执行跟踪的活动记录。
CUpti_ActivityInstantaneousEvent: 瞬时 CUPTI 事件的活动记录。
CUpti_ActivityInstantaneousEventInstance: 具有事件域实例信息的瞬时 CUPTI 事件的活动记录。
CUpti_ActivityInstantaneousMetric: 瞬时 CUPTI 指标的活动记录。
CUpti_ActivityInstantaneousMetricInstance: 具有实例信息的 CUPTI 指标的瞬时活动记录。
CUpti_ActivityInstructionCorrelation: 源级别 sass/源行到行关联的活动记录。
CUpti_ActivityInstructionExecution: 源级别指令执行的活动记录。
CUpti_ActivityJit2: JIT 操作的活动记录。
CUpti_ActivityKernel9: 内核的活动记录。
CUpti_ActivityMarker2: 提供标记的活动记录，标记是时间上的瞬时点。
CUpti_ActivityMarkerData: 提供标记详细信息的活动记录。
CUpti_ActivityMemDecompress: 解压缩操作跟踪的活动记录。
CUpti_ActivityMemcpy6: 内存复制的活动记录。
CUpti_ActivityMemcpyPtoP4: 点对点内存复制的活动记录。
CUpti_ActivityMemory: 内存的活动记录。
CUpti_ActivityMemory4: 内存的活动记录。
CUpti_ActivityMemoryPool2: 内存池的活动记录。
CUpti_ActivityMemset4: memset 的活动记录。
CUpti_ActivityMetric: CUPTI 指标的活动记录。
CUpti_ActivityMetricInstance: 具有实例信息的 CUPTI 指标的活动记录。
CUpti_ActivityModule: CUDA 模块的活动记录。
CUpti_ActivityName: 提供名称的活动记录。
CUpti_ActivityNvLink4: NVLink 信息。
CUpti_ActivityObjectKindId: CUpti_ActivityObjectKind 指定的对象类型的标识符。
CUpti_ActivityOpenAcc: OpenAcc 记录的基础活动记录。
CUpti_ActivityOpenAccData: OpenACC 数据的活动记录。
CUpti_ActivityOpenAccLaunch: OpenACC 启动的活动记录。
CUpti_ActivityOpenAccOther: 其他 OpenACC 的活动记录。
CUpti_ActivityOpenMp: OpenMp 记录的基础活动记录。
CUpti_ActivityOverhead3: CUPTI 和驱动程序开销的活动记录。
CUpti_ActivityOverheadCommandBufferFullData: 为 CUPTI_ACTIVITY_OVERHEAD_COMMAND_BUFFER_FULL 提供附加数据的结构。
CUpti_ActivityPCSampling3: PC 采样的活动记录。
CUpti_ActivityPCSamplingConfig: PC 采样配置结构。
CUpti_ActivityPCSamplingRecordInfo: PC 采样的记录状态的活动记录。
CUpti_ActivityPcie: 构建拓扑所需的 PCI 设备信息。
CUpti_ActivityPreemption: CDP 内核抢占的活动记录。
CUpti_ActivitySharedAccess: 源级别共享访问的活动记录。
CUpti_ActivitySourceLocator: 源定位符的活动记录。
CUpti_ActivityStream: CUDA 流的活动记录。
CUpti_ActivitySynchronization2: 同步管理的活动记录。
CUpti_ActivityUnifiedMemoryCounter3: 统一内存计数器的活动记录 (CUDA 7.0 及更高版本)
CUpti_ActivityUnifiedMemoryCounterConfig: 统一内存计数器配置结构。

宏

CUPTI_AUTO_BOOST_INVALID_CLIENT_PID: 无效/未知进程 ID。
CUPTI_CORRELATION_ID_UNKNOWN: 无效/未知关联 ID。
CUPTI_DECOMPRESSED_BYTES_UNKNOWN: 解压缩字节的无效/未知值。
CUPTI_FUNCTION_INDEX_ID_INVALID: 无效的函数索引 ID。
CUPTI_GRID_ID_UNKNOWN: 无效/未知网格 ID。
CUPTI_MAX_GPUS
CUPTI_MAX_NVLINK_PORTS: 最大 NVLink 端口号。
CUPTI_NVLINK_INVALID_PORT: 无效/未知 NVLink 端口号。
CUPTI_SOURCE_LOCATOR_ID_UNKNOWN: 指示未知源位置的源定位符 ID。
CUPTI_SYNCHRONIZATION_INVALID_VALUE: 无效/未知值。
CUPTI_TIMESTAMP_UNKNOWN: 开始、结束、排队、提交或完成时间的无效/未知时间戳。

枚举

CUpti_ActivityAttribute: 活动属性。
CUpti_ActivityComputeApiKind: 计算 API 的种类。
CUpti_ActivityEnvironmentKind: 环境数据的种类。
CUpti_ActivityFlag: 与活动记录关联的标志。
CUpti_ActivityInstructionClass: SASS 指令分类。
CUpti_ActivityJitEntryType: JIT 条目的类型。
CUpti_ActivityJitOperationType: JIT 编译操作的类型。
CUpti_ActivityKind: 活动记录的种类。
CUpti_ActivityLaunchType: CUDA 内核启动的类型。
CUpti_ActivityMemcpyKind: 内存复制的种类，指示复制的源和目标。
CUpti_ActivityMemoryKind: 内存操作/复制访问的内存种类。
CUpti_ActivityMemoryOperationType: 内存操作类型。
CUpti_ActivityMemoryPoolOperationType: 内存池操作类型。
CUpti_ActivityMemoryPoolType: 内存池类型。
CUpti_ActivityObjectKind: 活动对象的种类。
CUpti_ActivityOverheadKind: 活动开销的种类。
CUpti_ActivityPCSamplingPeriod: PC 采样方法的采样周期。
CUpti_ActivityPCSamplingStallReason: PC 采样活动的停顿原因。
CUpti_ActivityPartitionedGlobalCacheConfig: 分区全局缓存选项。
CUpti_ActivityPreemptionKind: 抢占活动的种类。
CUpti_ActivityStreamFlag: 流类型。
CUpti_ActivitySynchronizationType: 同步类型。
CUpti_ActivityThreadIdType: 线程 ID 类型。
CUpti_ActivityUnifiedMemoryAccessType: 统一内存页错误的内存访问类型。
CUpti_ActivityUnifiedMemoryCounterKind: 统一内存计数器的种类。
CUpti_ActivityUnifiedMemoryCounterScope: 统一内存计数器的范围（在 CUDA 7.0 中已弃用）
CUpti_ActivityUnifiedMemoryMigrationCause: 统一内存计数器的迁移原因。
CUpti_ActivityUnifiedMemoryRemoteMapCause: 统一内存计数器的远程内存映射原因。
CUpti_ChannelType
CUpti_ContextCigMode: CIG (图形中的 CUDA) 模式。
CUpti_DevType: 连接到 NVLink 的设备的设备类型。
CUpti_DeviceGraphLaunchMode: 设备图执行的启动模式。
CUpti_DeviceVirtualizationMode: 指示 CUDA 设备运行的虚拟化模式。
CUpti_EnvironmentClocksThrottleReason: 时钟节流的原因。
CUpti_ExternalCorrelationKind: 关联支持的外部 API 的种类。
CUpti_FuncShmemLimitConfig: 内核的每个块配置的共享内存限制。这应用于在占用率计算器 API 中设置 'cudaOccFuncShmemConfig' 字段。
CUpti_LinkFlag: 链接标志。
CUpti_OpenAccConstructKind: OpenAcc 活动记录的 OpenAcc 父构造种类。
CUpti_OpenAccEventKind: OpenAcc 活动记录的 OpenAcc 事件种类。
CUpti_OpenMpEventKind
CUpti_PcieDeviceType: 区分 PCIE 活动记录是 GPU 还是 PCI 桥的字段。
CUpti_PcieGen: PCIE 代。

函数

CUptiResult cuptiActivityConfigurePCSampling(CUcontext ctx, CUpti_ActivityPCSamplingConfig *config): 设置 PC 采样配置。
CUptiResult cuptiActivityConfigureUnifiedMemoryCounter(CUpti_ActivityUnifiedMemoryCounterConfig *config, uint32_t count): 设置统一内存计数器配置。
CUptiResult cuptiActivityDisable(CUpti_ActivityKind kind): 禁用特定类型活动记录的收集。
CUptiResult cuptiActivityDisableContext(CUcontext context, CUpti_ActivityKind kind): 禁用上下文中特定类型活动记录的收集。
CUptiResult cuptiActivityEnable(CUpti_ActivityKind kind): 启用特定类型活动记录的收集。
CUptiResult cuptiActivityEnableAllSyncRecords(uint8_t enable): 启用收集所有同步操作的记录。
CUptiResult cuptiActivityEnableAllocationSource(uint8_t enable): 启用跟踪内存分配请求的源库。
CUptiResult cuptiActivityEnableAndDump(CUpti_ActivityKind kind): 启用特定类型活动记录的收集。
CUptiResult cuptiActivityEnableContext(CUcontext context, CUpti_ActivityKind kind): 启用上下文中特定类型活动记录的收集。
CUptiResult cuptiActivityEnableDeviceGraph(uint8_t enable): 控制设备启动图的记录收集。
CUptiResult cuptiActivityEnableDriverApi(CUpti_CallbackId cbid, uint8_t enable): 控制特定 CUDA 驱动程序 API 的活动记录收集。
CUptiResult cuptiActivityEnableHWTrace(uint8_t enable): 启用通过硬件事件收集 CUDA 内核时间戳。
CUptiResult cuptiActivityEnableLatencyTimestamps(uint8_t enable): 控制内核的排队和提交时间戳的收集。
CUptiResult cuptiActivityEnableLaunchAttributes(uint8_t enable): 控制内核的启动属性的收集。
CUptiResult cuptiActivityEnableRuntimeApi(CUpti_CallbackId cbid, uint8_t enable): 控制特定 CUDA 运行时 API 的活动记录收集。
CUptiResult cuptiActivityFlush(CUcontext context, uint32_t streamId, uint32_t flag): 等待所有活动记录通过完成回调传递。
CUptiResult cuptiActivityFlushAll(uint32_t flag): 请求通过缓冲区完成回调传递活动记录。
CUptiResult cuptiActivityFlushPeriod(uint32_t time): 设置工作线程的刷新周期。
CUptiResult cuptiActivityGetAttribute(CUpti_ActivityAttribute attr, size_t *valueSize, void *value): 读取活动 API 属性。
CUptiResult cuptiActivityGetNextRecord(uint8_t *buffer, size_t validBufferSizeBytes, CUpti_Activity **record): 迭代缓冲区中的活动记录。
CUptiResult cuptiActivityGetNumDroppedRecords(CUcontext context, uint32_t streamId, size_t *dropped): 获取因缓冲区空间不足而丢弃的活动记录数。
CUptiResult cuptiActivityPopExternalCorrelationId(CUpti_ExternalCorrelationKind kind, uint64_t *lastId): 为调用线程弹出外部关联 ID。
CUptiResult cuptiActivityPushExternalCorrelationId(CUpti_ExternalCorrelationKind kind, uint64_t id): 为调用线程推送外部关联 ID。
CUptiResult cuptiActivityRegisterCallbacks(CUpti_BuffersCallbackRequestFunc funcBufferRequested, CUpti_BuffersCallbackCompleteFunc funcBufferCompleted): 向 CUPTI 注册回调函数以进行活动缓冲区处理。
CUptiResult cuptiActivityRegisterTimestampCallback(CUpti_TimestampCallbackFunc funcTimestamp): 向 CUPTI 注册回调函数以提供时间戳。
CUptiResult cuptiActivitySetAttribute(CUpti_ActivityAttribute attr, size_t *valueSize, void *value): 写入活动 API 属性。
CUptiResult cuptiComputeCapabilitySupported(int major, int minor, int *support): 检查对计算能力的支持。
CUptiResult cuptiDeviceSupported(CUdevice dev, int *support): 检查对计算设备的支持。
CUptiResult cuptiDeviceVirtualizationMode(CUdevice dev, CUpti_DeviceVirtualizationMode *mode): 查询设备的虚拟化模式。
CUptiResult cuptiFinalize(void): 将 CUPTI 从运行的进程中分离。
CUptiResult cuptiGetAutoBoostState(CUcontext context, CUpti_ActivityAutoBoostState *state): 获取自动加速状态。
CUptiResult cuptiGetContextId(CUcontext context, uint32_t *contextId): 获取上下文的 ID。
CUptiResult cuptiGetDeviceId(CUcontext context, uint32_t *deviceId): 获取设备的 ID。
CUptiResult cuptiGetGraphExecId(CUgraphExec graphExec, uint32_t *pId): 获取可执行图的唯一 ID。
CUptiResult cuptiGetGraphId(CUgraph graph, uint32_t *pId): 获取图的唯一 ID。
CUptiResult cuptiGetGraphNodeId(CUgraphNode node, uint64_t *nodeId): 获取图节点的唯一 ID。
CUptiResult cuptiGetLastError(void): 返回来自 cupti 调用或回调的最后一个错误。
CUptiResult cuptiGetStreamId(CUcontext context, CUstream stream, uint32_t *streamId): 获取流的 ID。
CUptiResult cuptiGetStreamIdEx(CUcontext context, CUstream stream, uint8_t perThreadStream, uint32_t *streamId): 获取流的 ID。
CUptiResult cuptiGetThreadIdType(CUpti_ActivityThreadIdType *type): 获取线程 ID 类型。
CUptiResult cuptiGetTimestamp(uint64_t *timestamp): 获取 CUPTI 时间戳。
CUptiResult cuptiSetThreadIdType(CUpti_ActivityThreadIdType type): 设置线程 ID 类型。

类型定义

CUpti_BuffersCallbackCompleteFunc: CUPTI 用于返回活动记录缓冲区的回调函数类型。
CUpti_BuffersCallbackRequestFunc: CUPTI 用于请求空缓冲区以存储活动记录的回调函数类型。
CUpti_TimestampCallbackFunc: CUPTI 用于请求在活动记录中使用的时间戳的回调函数类型。

5.1.1. 宏

CUPTI_AUTO_BOOST_INVALID_CLIENT_PID: 无效/未知进程 ID。

CUPTI_CORRELATION_ID_UNKNOWN

无效/未知关联 ID。

此值的关联 ID 表示活动记录没有关联。

CUPTI_DECOMPRESSED_BYTES_UNKNOWN: 解压缩字节的无效/未知值。

CUPTI_FUNCTION_INDEX_ID_INVALID: 无效的函数索引 ID。

CUPTI_GRID_ID_UNKNOWN: 无效/未知网格 ID。

CUPTI_MAX_GPUS

CUPTI_MAX_NVLINK_PORTS: 最大 NVLink 端口号。

CUPTI_NVLINK_INVALID_PORT: 无效/未知 NVLink 端口号。

CUPTI_SOURCE_LOCATOR_ID_UNKNOWN

指示未知源位置的源定位符 ID。

没有与此值对应的实际 CUpti_ActivitySourceLocator 对象。

CUPTI_SYNCHRONIZATION_INVALID_VALUE: 无效/未知值。

CUPTI_TIMESTAMP_UNKNOWN: 开始、结束、排队、提交或完成时间的无效/未知时间戳。

5.1.2. 枚举

enum CUpti_ActivityAttribute

活动属性。

这些属性用于控制活动 API 的行为。

值

enumerator CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_SIZE

设备内存大小（以字节为单位），用于存储并发内核（活动类型 CUPTI_ACTIVITY_KIND_CONCURRENT_KERNEL）、内存复制和内存设置的分析数据，每个上下文中每个缓冲区。

该值是 size_t。

每个上下文可以分配的设备缓冲区数量有限制。用户可以使用属性 CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_POOL_LIMIT 查询和设置此限制。CUPTI 不会预先分配所有缓冲区，它仅预先分配由属性 CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_PRE_ALLOCATE_VALUE 设置的缓冲区。当缓冲区中的所有数据都被消耗时，它会被添加到重用池中，当需要新缓冲区时，CUPTI 会从此池中选择一个缓冲区。因此，内存占用量不会随内核数量而扩展。具有高密度内核、内存复制和内存设置的应用程序可能会导致 CUPTI 分配更多设备缓冲区。只有当重用池中的缓冲区用完时，CUPTI 才会分配另一个缓冲区。

由于缓冲区分配发生在主应用程序线程中，这可能会导致关键路径中的停顿。CUPTI 预先分配 3 个相同大小的缓冲区来缓解此问题。用户可以使用属性 CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_PRE_ALLOCATE_VALUE 查询和设置预分配限制。

较大的缓冲区大小会为应用程序留下较少的设备内存。较小的缓冲区大小会增加在一次启动太多内核或内存复制或内存设置时，记录的时间戳被丢弃的风险。

此值仅适用于新的缓冲区分配。在初始化 CUDA 或创建上下文之前设置此值，以确保将其考虑用于以下分配。

默认值为 3200000 (~3MB)，可以容纳最多 100,000 个内核、内存复制和内存设置的组合的分析数据。

注意：从 CUDA 12.0 Update 1 版本开始，CUPTI 默认在设备内存中分配分析缓冲区，因为这可能有助于提高跟踪运行的性能。有关更多详细信息，请参阅属性 CUPTI_ACTIVITY_ATTR_MEM_ALLOCATION_TYPE_HOST_PINNED 的描述。内存大小和最大池数量仍由属性 CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_SIZE 和 CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_POOL_LIMIT 控制。

注意：CUPTI 为每个缓冲区保留的实际设备内存量可能会更大。

enumerator CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_SIZE_CDP

设备内存大小（以字节为单位），用于存储 CDP 操作的分析数据，每个上下文中每个缓冲区。

该值是 size_t。

较大的缓冲区大小意味着更少的刷新操作，但会消耗更多的设备内存。此值仅适用于新的分配。

在初始化 CUDA 或创建上下文之前设置此值，以确保将其考虑用于以下分配。

默认值为 8388608 (8MB)。

注意：CUPTI 为每个上下文保留的实际设备内存量可能会更大。

enumerator CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_POOL_LIMIT

每个上下文的最大设备内存缓冲区数。

该值是 size_t。

对于具有高内核启动率、内存复制和内存设置的应用程序，具有更大的池限制有助于收集所有这些活动的时间戳，但代价是更大的内存占用量。有关更多详细信息，请参阅属性 CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_SIZE 的描述。

设置此值不会修改当前存储的内存缓冲区数量。

在初始化 CUDA 之前设置此值，以确保不超过限制。

默认值为 250。

enumerator CUPTI_ACTIVITY_ATTR_PROFILING_SEMAPHORE_POOL_SIZE

从 CUDA 12.3 开始不支持此属性，CUPTI 不再使用分析信号量池来存储分析数据。

每个上下文可以分配的信号量池数量有限制。用户可以使用属性 CUPTI_ACTIVITY_ATTR_PROFILING_SEMAPHORE_POOL_LIMIT 查询和设置此限制。CUPTI 不会预先分配所有信号量池，它仅预先分配由属性 CUPTI_ACTIVITY_ATTR_PROFILING_SEMAPHORE_PRE_ALLOCATE_VALUE 设置的信号量池。当信号量池中的所有数据都被消耗时，它会被添加到重用池中，当需要新的信号量池时，CUPTI 会从重用池中选择一个信号量池。因此，内存占用量不会随内核数量而扩展。具有高密度内核的应用程序可能会导致 CUPTI 分配更多信号量池。只有当重用池中的信号量池用完时，CUPTI 才会分配另一个信号量池。

由于信号量池分配发生在主应用程序线程中，这可能会导致关键路径中的停顿。CUPTI 预先分配 3 个相同大小的信号量池来缓解此问题。用户可以使用属性 CUPTI_ACTIVITY_ATTR_PROFILING_SEMAPHORE_PRE_ALLOCATE_VALUE 查询和设置预分配限制。

较大的信号量池大小会为应用程序留下较少的设备内存。较小的信号量池大小会增加在一次发出/启动太多内核时，内核记录的时间戳被丢弃的风险。

此值仅适用于新的信号量池分配。在初始化 CUDA 或创建上下文之前设置此值，以确保将其考虑用于以下分配。

默认值为 25000，可以容纳最多 25,000 个内核的分析数据。

enumerator CUPTI_ACTIVITY_ATTR_PROFILING_SEMAPHORE_POOL_LIMIT

从 CUDA 12.3 开始不支持此属性，CUPTI 不再使用分析信号量池来存储分析数据。

每个上下文的最大分析信号量池数。该值是 size_t。

有关更多详细信息，请参阅属性 CUPTI_ACTIVITY_ATTR_PROFILING_SEMAPHORE_POOL_SIZE 的描述。

在初始化 CUDA 之前设置此值，以确保不超过限制。

默认值为 250。

enumerator CUPTI_ACTIVITY_ATTR_ZEROED_OUT_ACTIVITY_BUFFER

指示用户是否应提供零值活动缓冲区的标志。

该值是 uint8_t。

如果此属性的值为非零，则用户应在 CUpti_BuffersCallbackRequestFunc 中提供零值缓冲区。如果用户在设置为非零后未提供零值缓冲区，则当 CUPTI 在 CUpti_BuffersCallbackCompleteFunc 中返回活动缓冲区时，该缓冲区可能包含一些未初始化的值

如果此属性的值为零，则 CUPTI 将在填充用户缓冲区之前，将 CUpti_BuffersCallbackRequestFunc 中接收到的用户缓冲区初始化为零。如果用户将其设置为零，则在关键路径中可能会出现一些停顿，因为 CUPTI 将在主线程中清零缓冲区。在从 CUpti_BuffersCallbackRequestFunc 返回之前设置此值，以确保所有后续用户缓冲区都考虑此值。

默认值为 0。

enumerator CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_PRE_ALLOCATE_VALUE

在初始化阶段为上下文预分配的设备缓冲区数量。

该值是 size_t。

有关详细信息，请参阅属性 CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_SIZE 的描述。

此值必须小于使用属性 CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_POOL_LIMIT 设置的最大设备缓冲区数量。

在初始化 CUDA 或创建上下文之前设置此值，以确保 CUPTI 考虑此值。

默认值设置为 3，以便在这些缓冲区之间进行乒乓操作（如果可能）。

enumerator CUPTI_ACTIVITY_ATTR_PROFILING_SEMAPHORE_PRE_ALLOCATE_VALUE

从 CUDA 12.3 开始不支持此属性，CUPTI 不再使用分析信号量池来存储分析数据。

在初始化阶段为上下文预分配的分析信号量池的数量。该值是一个 size_t。

有关详细信息，请参阅属性 CUPTI_ACTIVITY_ATTR_PROFILING_SEMAPHORE_POOL_SIZE 的描述。

此值必须小于使用属性 CUPTI_ACTIVITY_ATTR_PROFILING_SEMAPHORE_POOL_LIMIT 设置的最大分析信号量池数量。

在初始化 CUDA 或创建上下文之前设置此值，以确保 CUPTI 考虑此值。

默认值设置为 3，以便在这些池之间进行乒乓操作（如果可能）。

enumerator CUPTI_ACTIVITY_ATTR_MEM_ALLOCATION_TYPE_HOST_PINNED

为并发内核、内存复制和内存设置分配页锁定（pinned）主机内存，用于存储上下文中每个缓冲区的分析数据。

该值是 uint8_t。

从 CUDA 11.2 版本开始，CUPTI 默认在 pinned 主机内存中分配分析缓冲区，因为这可能有助于提高跟踪运行的性能。分配过多的 pinned 内存可能会降低系统性能，因为它减少了系统可用于分页的内存量。因此，用户可能希望通过将此属性的值设置为 0，将位置从 pinned 主机内存更改为设备内存。

保密计算设备不支持使用页锁定（pinned）主机内存缓冲区。如果将此属性设置为 1，CUPTI 将返回 CUPTI_ERROR_NOT_SUPPORTED。

默认值为 1。

enumerator CUPTI_ACTIVITY_ATTR_PER_THREAD_ACTIVITY_BUFFER

请求每个线程的活动缓冲区，以在每个线程的基础上将 CUPTI 活动记录存储在活动缓冲区中。

该值是 uint8_t。

应在通过 cuptiActivityRegisterCallbacks API 注册缓冲区回调之前，以及在启用任何 CUPTI 活动类型之前设置此属性。这确保所有记录都存储在每个线程分配的活动缓冲区中。在分析会话中间更改此属性将导致未定义的行为。

默认值为 0。

enumerator CUPTI_ACTIVITY_ATTR_DEVICE_BUFFER_FORCE_INT

enum CUpti_ActivityComputeApiKind

计算 API 的种类。

值

enumerator CUPTI_ACTIVITY_COMPUTE_API_UNKNOWN: 计算 API 未知。

enumerator CUPTI_ACTIVITY_COMPUTE_API_CUDA: 计算 API 用于 CUDA。

enumerator CUPTI_ACTIVITY_COMPUTE_API_CUDA_MPS: 计算 API 用于在 MPS（多进程服务）环境中运行的 CUDA。

enumerator CUPTI_ACTIVITY_COMPUTE_API_FORCE_INT

enum CUpti_ActivityEnvironmentKind

环境数据的种类。

用于指示环境活动记录报告的数据类型。

值

enumerator CUPTI_ACTIVITY_ENVIRONMENT_UNKNOWN: 未知数据。

enumerator CUPTI_ACTIVITY_ENVIRONMENT_SPEED: 环境数据与速度相关。

enumerator CUPTI_ACTIVITY_ENVIRONMENT_TEMPERATURE: 环境数据与温度相关。

enumerator CUPTI_ACTIVITY_ENVIRONMENT_POWER: 环境数据与功耗相关。

enumerator CUPTI_ACTIVITY_ENVIRONMENT_COOLING: 环境数据与散热相关。

enumerator CUPTI_ACTIVITY_ENVIRONMENT_COUNT

enumerator CUPTI_ACTIVITY_ENVIRONMENT_KIND_FORCE_INT

enum CUpti_ActivityFlag

与活动记录关联的标志。

活动记录标志。标志可以通过按位 OR 组合，以将多个标志与活动记录关联。每个标志都特定于某种活动类型，如下所述。

值

enumerator CUPTI_ACTIVITY_FLAG_NONE: 表示活动记录没有标志。

enumerator CUPTI_ACTIVITY_FLAG_DEVICE_CONCURRENT_KERNELS

表示该设备支持并发内核执行。

对 CUPTI_ACTIVITY_KIND_DEVICE 有效。

enumerator CUPTI_ACTIVITY_FLAG_DEVICE_ATTRIBUTE_CUDEVICE

指示活动表示 CUdevice_attribute 值还是 CUpti_DeviceAttribute 值。

对 CUPTI_ACTIVITY_KIND_DEVICE_ATTRIBUTE 有效。

enumerator CUPTI_ACTIVITY_FLAG_MEMCPY_ASYNC

表示活动表示异步 memcpy 操作。

对 CUPTI_ACTIVITY_KIND_MEMCPY 有效。

enumerator CUPTI_ACTIVITY_FLAG_MARKER_INSTANTANEOUS

表示活动表示瞬时标记。