ONNX/TensorRT

ONNX是开放的模型格式标准，TensorRT是NVIDIA的高性能推理引擎，两者配合实现跨平台的高效模型部署。ONNX格式：模型导出与转换；ONNX Runtime：跨平台推理；TensorRT优化：层融合、精度校准；性能对比：速度与兼容性；部署流程：训练到推理pipeline。