命令行参数组
命令行参数组将参数和相关功能捆绑在一起,成为可重用的组件,并在整个 Polygraphy 命令行工具包中使用。
参数组用于向 Polygraphy 添加新的命令行工具或使用新功能扩展现有工具。
模块: polygraphy.tools.args
- 基本接口
- 后端
- ONNX
- ONNX-Runtime
- 插件参考
- TensorFlow
- TensorRT
- 加载器
TrtLoadPluginsArgsTrtOnnxFlagArgsTrtLoadNetworkArgsTrtLoadNetworkArgs.parse_impl()TrtLoadNetworkArgs.outputsTrtLoadNetworkArgs.exclude_outputsTrtLoadNetworkArgs.trt_network_func_nameTrtLoadNetworkArgs.layer_precisionsTrtLoadNetworkArgs.tensor_datatypesTrtLoadNetworkArgs.tensor_formatsTrtLoadNetworkArgs.postprocess_scriptsTrtLoadNetworkArgs.strongly_typedTrtLoadNetworkArgs.mark_debugTrtLoadNetworkArgs.load_network()
TrtSaveEngineBytesArgsTrtSaveEngineArgsTrtLoadEngineBytesArgsTrtLoadEngineArgsTrtConfigArgsTrtConfigArgs.parse_impl()TrtConfigArgs.profile_dictsTrtConfigArgs.tf32TrtConfigArgs.fp16TrtConfigArgs.bf16TrtConfigArgs.fp8TrtConfigArgs.int8TrtConfigArgs.precision_constraintsTrtConfigArgs.restrictedTrtConfigArgs.calibration_cacheTrtConfigArgs.calibration_base_classTrtConfigArgs.sparse_weightsTrtConfigArgs.load_timing_cacheTrtConfigArgs.load_tacticsTrtConfigArgs.save_tacticsTrtConfigArgs.tactic_sourcesTrtConfigArgs.trt_config_scriptTrtConfigArgs.trt_config_func_nameTrtConfigArgs.trt_config_postprocess_scriptTrtConfigArgs.trt_config_postprocess_func_nameTrtConfigArgs.use_dlaTrtConfigArgs.allow_gpu_fallbackTrtConfigArgs.memory_pool_limitsTrtConfigArgs.engine_capabilityTrtConfigArgs.direct_ioTrtConfigArgs.preview_featuresTrtConfigArgs.refittableTrtConfigArgs.strip_planTrtConfigArgs.builder_optimization_levelTrtConfigArgs.hardware_compatibility_levelTrtConfigArgs.profiling_verbosityTrtConfigArgs.max_aux_streamsTrtConfigArgs.version_compatibleTrtConfigArgs.exclude_lean_runtimeTrtConfigArgs.quantization_flagsTrtConfigArgs.error_on_timing_cache_missTrtConfigArgs.disable_compilation_cacheTrtConfigArgs.weight_streamingTrtConfigArgs.runtime_platformTrtConfigArgs.tiling_optimization_levelTrtConfigArgs.create_config()
- 运行器
- 加载器
- 比较器
- 比较器
- 比较函数
CompareFuncSimpleArgsCompareFuncSimpleArgs.parse_impl()CompareFuncSimpleArgs.no_shape_checkCompareFuncSimpleArgs.rtolCompareFuncSimpleArgs.atolCompareFuncSimpleArgs.check_error_statCompareFuncSimpleArgs.infinities_compare_equalCompareFuncSimpleArgs.save_heatmapsCompareFuncSimpleArgs.show_heatmapsCompareFuncSimpleArgs.save_error_metrics_plotCompareFuncSimpleArgs.show_error_metrics_plotCompareFuncSimpleArgs.error_quantile
CompareFuncIndicesArgs
- 数据加载器
DataLoaderArgsDataLoaderArgs.parse_impl()DataLoaderArgs.seedDataLoaderArgs.val_rangeDataLoaderArgs.iterationsDataLoaderArgs.load_inputs_pathsDataLoaderArgs.data_loader_scriptDataLoaderArgs.data_loader_func_nameDataLoaderArgs.data_loader_backend_moduleDataLoaderArgs.add_to_script_impl()DataLoaderArgs.get_data_loader()DataLoaderArgs.is_using_random_data()
- 后处理函数
- 日志记录器
- 模型