TensorRT 是 NVIDIA 推出的用于高性能深度學習推理（inference）的庫。它通過優化深度學習模型，提高推理性能，減少延遲，并節省資源。在 Ubuntu 中，可以使用 TensorRT 來部署和運行經過訓練的深度學習模型，以進行實時推理。
TensorRT 的用法主要包括以下幾個步驟：
通過使用 TensorRT，可以實現在 Ubuntu 系統上高效地部署和運行深度學習模型，提高推理性能和減少資源消耗。TensorRT 支持多種深度學習框架和模型，同時提供了豐富的優化和加速功能，使得在生產環境中部署深度學習應用更加便捷和高效。
