Onnx – onnx模型简化与优化
在使用onnx模型在其他框架进行部署时，一般都需要对onnx模型进行简化和优化。 1 onnx模型简化 对模型进行简化一般使用onnx-simplifier包 可以通过以下命令安装 pip install onnx-simplifier 然后就可以在项目导出onnx模型之后，使用以下代码对onnx模…
- Onnx
- 2023-03-21
TensorRT – 使用Polygraphy工具比较onnx模型和TensorRT模型的推理结果是否一致
1 比较onnx模型和TensorRT模型推理结果的必要性 在进行模型部署的时候，如果我们使用TensorRT对模型加速，那么一般都会采用深度学习框架>onnx模型>TensorRT模型的技术路线，在onnx模型转换到TensorRT模型的过程中有可能某些算子会丢失精度，从而影响后续的模型推理结果，…
- TensorRT
- 2022-12-12
Python – onnx导出模型出现RuntimeError: Exporting the operator pad_sequence to ONNX opset version 13 is not supported错误
1 onnx导出模型出现RuntimeError: Exporting the operator pad_sequence to ONNX opset version 13 is not supported错误 今天在pytorch中导出模型为onnx时，由于使用了from torch.nn.uti…
- 模型部署
- 2022-12-01
Pytorch – 使用torch.onnx.export将Pytorch模型导出为ONNX模型
1 torch.onnx.export torch.onnx.export( model, args, f, export_params=True, verbose=False, training=<TrainingMode.EVAL: 0>, input_names=None, out…
- Pytorch
- 2021-09-16