TensorRT – 使用torch普通算子组合替代torch.einsum爱因斯坦求和约定算子的一般性方法
1 问题：TensorRT暂时未实现einsum算子 在ST-GCN中使用了爱因斯坦求和算子torch.einsum， def forward(self, x, A): assert A.size(0) == self.kernel_size x = self.conv(x) n, kc, t, v…
- TensorRT
- 2021-10-08
TensorRT – Windows下TensorRT下载与配置
1 TensorRT下载 官方网站下载地址：https://developer.nvidia.com/zh-cn/tensorrt?term=TensorRT 选择合适的TensorRT版本下载，这里以TensorRT 7为例 进入TensorRT 7下载页面，勾选I Agree To the Te…
- TensorRT
- 2021-10-05
TensorRT – Polygraphy工具的使用
1 切换python虚拟环境 在Anaconda中激活安装了Polygraphy包以及其依赖项的python环境，以下所有的操作都需要在此虚拟环境中操作，Polygraphy的安装可参考：https://www.stubbornhuang.com/1736/ 2 使用 2.1 API调用 如果正确安…
- TensorRT
- 2021-10-05
TensorRT – 安装TensorRT工具Polygraphy
1 项目地址 Github地址：https://github.com/NVIDIA/TensorRT/tree/master/tools/Polygraphy 2 官方步骤 2.1 官方的安装步骤 2.1.1 预处理包 polygraphy依赖以下包： onnx onnxruntime onnx_g…
- TensorRT
- 2021-10-05
TensorRT – 使用trtexec工具转换模型、运行模型、测试网络性能
1 转换模型 1.1 Caffe模型转换为TensorRT模型 将Caffe模型转换为TensorRT模型，启动所有精度以达到最佳性能 trtexec --deploy=mnist.prototex --model=mnist.caffe --saveEngine=mnist.trt --best …
- TensorRT
- 2021-09-19
TensorRT – 解决INVALID_ARGUMENT: getPluginCreator could not find plugin ScatterND version 1,TensorRT找不到ScatterND插件的问题
1 问题出现 最近在使用TensorRT 7.2.3.4中的自带的trtexec工具转换yolov3-spp的onnx模型为TensorRT模型文件时出现了找不到ScatterND插件的错误，错误大致如下： ModelImporter.cpp:135: No importer registered …
- TensorRT
- 2021-09-18
TensorRT – 自带工具trtexec的参数使用说明
本文以TensorRT-7.2.3.4说明自带工具trtexec工具的使用参数进行说明。 1 trtexec的参数使用说明 === Model Options === --uff=<file> UFF model --onnx=<file> ONNX model --mode…
- TensorRT
- 2021-09-17
Pytorch – 使用torch.onnx.export将Pytorch模型导出为ONNX模型
1 torch.onnx.export torch.onnx.export( model, args, f, export_params=True, verbose=False, training=<TrainingMode.EVAL: 0>, input_names=None, out…
- Pytorch
- 2021-09-16
CUDA 安装报错 could not create file “…\chrome_elf.dll”
1 CUDA 安装报错 could not create file "...\chrome_elf.dll" 今天重新在win 7上安装CUDA 10.2的时候报了这个错，人都懵了，我以为是卸载之前的CUDA 10.0没有卸载干净导致注册表有残留信息，然后重启了电脑再安装，然后在解压exe的时候依然…
- 人工智能
- 2021-09-10
如何正确的选择深度学习模型工业化部署的方式
1 如何正确的选择深度学习模型工业化部署的方式 转自知乎高赞回答：https://www.zhihu.com/question/329372124/answer/743251971 最近在做深度学习模型的工业化部署，无意中看到了这篇高赞回答，觉得写得很好，有必要备份一下。这篇回答对我如何选择部署方式…
- 人工智能
- 2021-09-10
Mediapipe – 将Mediapipe handtracking封装成动态链接库dll/so,实现在桌面应用中嵌入手势识别功能
1 将Mediapipe handtracking封装成动态链接库dll/so的意义 Mediapipe提供了在cpu低延时下的高性能以及丰富功能，比如人脸识别，手部跟踪与识别，全身关节跟踪与识别，如果我们能在我们的应用中加入这些功能岂不是很酷！ 在python环境下，我们可以通过直接安装Media…
- 姿态估计
- 2021-08-13
Mediapipe – Windows10 编译Mediapipe C++版本保姆级教程
1 Windows10编译Mediapipe C++版本 Win7我按照底下的步骤试了一下，在bazel编译的时候总是报： ERROR: SymlinkDirectories(C:/Users/Administrator/_bazel_Administrator/install/7e447298f5…
- 姿态估计
- 2021-08-09