1. FP4 内在函数
2. FP6 内在函数
2.1. 用于处理 e2m3 类型的 fp6 数据类型的 C++ 结构体。
2.2. 用于处理 e3m2 类型的 fp6 数据类型的 C++ 结构体。
2.3. 用于处理 e2m3 类型的四个 fp6 值的向量类型的 C++ 结构体。
2.4. 用于处理 e3m2 类型的四个 fp6 值的向量类型的 C++ 结构体。
2.5. 用于处理 e2m3 类型的两个 fp6 值的向量类型的 C++ 结构体。
2.6. 用于处理 e3m2 类型的两个 fp6 值的向量类型的 C++ 结构体。
2.7. FP6 转换和数据移动
3. FP8 内在函数
4. 半精度内在函数
5. Bfloat16 精度内在函数
6. 单精度数学函数
7. 单精度内在函数
8. 双精度数学函数
9. 双精度内在函数
10. FP128 四倍精度数学函数
11. 类型转换内在函数
12. 整数数学函数
13. 整数内在函数
14. SIMD 内在函数
15. 结构体
16. 注意事项
CUDA Math API 参考手册
»
2.
FP6 内在函数
»
2.3.
用于处理 e2m3 类型的四个 fp6 值的向量类型的 C++ 结构体。
v12.8 |
PDF
|
Archive
2.3.
用于处理 e2m3 类型的四个 fp6 值的向量类型的 C++ 结构体。
结构体
__nv_fp6x4_e2m3
__nv_fp6x4_e2m3
数据类型