6.76. CUpti_ActivityNvLink4

struct CUpti_ActivityNvLink4

NVLink 信息。

此结构提供两个设备(gpu<->gpu 或 gpu<->CPU)之间每个逻辑 NVLink 连接的功能,可用于理解拓扑。

公共成员

CUpti_ActivityKind kind

活动记录类型,必须是 CUPTI_ACTIVITY_KIND_NVLINK。

uint32_t nvlinkVersion

NvLink 版本。

CUpti_DevType typeDev0

设备 0 的类型 CUpti_DevType

CUpti_DevType typeDev1

设备 1 的类型 CUpti_DevType

uint32_t index

NPU 的索引。

第一个索引始终为零。

uint32_t domainId

NPU 的域 ID。

在 Linux 上,可以使用 lspci 查询。

union CUpti_ActivityNvLink4::[anonymous] idDev0

如果 typeDev0 是 CUPTI_DEV_TYPE_GPU,则为设备 0 的 UUID。

CUpti_ActivityDevice5。如果 typeDev0 是 CUPTI_DEV_TYPE_NPU,则为 NPU 的结构 npu。

union CUpti_ActivityNvLink4::[anonymous] idDev1

如果 typeDev1 是 CUPTI_DEV_TYPE_GPU,则为设备 1 的 UUID。

CUpti_ActivityDevice5。如果 typeDev1 是 CUPTI_DEV_TYPE_NPU,则为 NPU 的结构 npu。

uint32_t flag

标志给出链接的功能。

另请参阅

CUpti_LinkFlag

uint32_t physicalNvLinkCount

两个设备之间存在的物理 NVLink 的数量。

int8_t portDev0[32]

连接到设备 0 的最多 32 个 NVLink 的端口号。

如果 typeDev0 是 CUPTI_DEV_TYPE_NPU,则忽略此字段。如果端口号无效/未知,则此字段将设置为值 CUPTI_NVLINK_INVALID_PORT。这将用于将度量值与单个物理链接相关联,并将流量归因于拓扑中的逻辑 NVLink。

int8_t portDev1[32]

连接到设备 1 的最多 32 个 NVLink 的端口号。

如果 typeDev1 是 CUPTI_DEV_TYPE_NPU,则忽略此字段。如果端口号无效/未知,则此字段将设置为值 CUPTI_NVLINK_INVALID_PORT。这将用于将度量值与单个物理链接相关联,并将流量归因于拓扑中的逻辑 NVLink。

uint64_t bandwidth

NVLink 的带宽,单位为千字节/秒。

uint8_t nvswitchConnected

NVSwitch 作为中间节点连接。

uint8_t pad[7]

未定义。

保留供内部使用