TensorRT是Nvidia开发的一个高性能深度学习推理引擎。它主要用于优化和部署已经训练好的深度学习模型，提高模型在NVIDIAGPU硬件上的推理性能。 TensorRT的主要功能和特点包括：  1.模型优化    TensorRT提供了一系列优化技术，包括层融合，张量格式化，kern