NCCL API

以下部分描述了 NCCL 方法和操作。

• 通信器创建和管理函数
  • ncclGetLastError
  • ncclGetErrorString
  • ncclGetVersion
  • ncclGetUniqueId
  • ncclCommInitRank
  • ncclCommInitAll
  • ncclCommInitRankConfig
  • ncclCommInitRankScalable
  • ncclCommSplit
  • ncclCommFinalize
  • ncclCommDestroy
  • ncclCommAbort
  • ncclCommGetAsyncError
  • ncclCommCount
  • ncclCommCuDevice
  • ncclCommUserRank
  • ncclCommRegister
  • ncclCommDeregister
  • ncclMemAlloc
  • ncclMemFree
• 集体通信函数
  • ncclAllReduce
  • ncclBroadcast
  • ncclReduce
  • ncclAllGather
  • ncclReduceScatter
• 组调用
  • ncclGroupStart
  • ncclGroupEnd
  • ncclGroupSimulateEnd
• 点对点通信函数
  • ncclSend
  • ncclRecv
• 类型
  • ncclComm_t
  • ncclResult_t
  • ncclDataType_t
  • ncclRedOp_t
  • ncclScalarResidence_t
  • ncclConfig_t
  • ncclSimInfo_t
• 用户定义的规约运算符
  • ncclRedOpCreatePreMulSum
  • ncclRedOpDestroy