The NVIDIA CUDA® 深度神经网络 (cuDNN) 是一个 GPU 加速的深度神经网络基元库。cuDNN 为标准例程(如前向和后向卷积、注意力机制、矩阵乘法、池化和归一化)提供高度优化的实现。