TensorRT
模块：polygraphy.tools.args
- 加载器
TrtLoadPluginsArgsTrtOnnxFlagArgsTrtLoadNetworkArgsTrtLoadNetworkArgs.parse_impl()TrtLoadNetworkArgs.outputsTrtLoadNetworkArgs.exclude_outputsTrtLoadNetworkArgs.trt_network_func_nameTrtLoadNetworkArgs.layer_precisionsTrtLoadNetworkArgs.tensor_datatypesTrtLoadNetworkArgs.tensor_formatsTrtLoadNetworkArgs.postprocess_scriptsTrtLoadNetworkArgs.strongly_typedTrtLoadNetworkArgs.mark_debugTrtLoadNetworkArgs.load_network()
TrtSaveEngineBytesArgsTrtSaveEngineArgsTrtLoadEngineBytesArgsTrtLoadEngineArgsTrtConfigArgsTrtConfigArgs.parse_impl()TrtConfigArgs.profile_dictsTrtConfigArgs.tf32TrtConfigArgs.fp16TrtConfigArgs.bf16TrtConfigArgs.fp8TrtConfigArgs.int8TrtConfigArgs.precision_constraintsTrtConfigArgs.restrictedTrtConfigArgs.calibration_cacheTrtConfigArgs.calibration_base_classTrtConfigArgs.sparse_weightsTrtConfigArgs.load_timing_cacheTrtConfigArgs.load_tacticsTrtConfigArgs.save_tacticsTrtConfigArgs.tactic_sourcesTrtConfigArgs.trt_config_scriptTrtConfigArgs.trt_config_func_nameTrtConfigArgs.trt_config_postprocess_scriptTrtConfigArgs.trt_config_postprocess_func_nameTrtConfigArgs.use_dlaTrtConfigArgs.allow_gpu_fallbackTrtConfigArgs.memory_pool_limitsTrtConfigArgs.engine_capabilityTrtConfigArgs.direct_ioTrtConfigArgs.preview_featuresTrtConfigArgs.refittableTrtConfigArgs.strip_planTrtConfigArgs.builder_optimization_levelTrtConfigArgs.hardware_compatibility_levelTrtConfigArgs.profiling_verbosityTrtConfigArgs.max_aux_streamsTrtConfigArgs.version_compatibleTrtConfigArgs.exclude_lean_runtimeTrtConfigArgs.quantization_flagsTrtConfigArgs.error_on_timing_cache_missTrtConfigArgs.disable_compilation_cacheTrtConfigArgs.weight_streamingTrtConfigArgs.runtime_platformTrtConfigArgs.tiling_optimization_levelTrtConfigArgs.create_config()
- 运行器