1 TensorRT下载

官方网站下载地址:https://developer.nvidia.com/zh-cn/tensorrt?term=TensorRT

TensorRT – Windows下TensorRT下载与配置-StubbornHuang Blog

选择合适的TensorRT版本下载,这里以TensorRT 7为例

TensorRT – Windows下TensorRT下载与配置-StubbornHuang Blog

进入TensorRT 7下载页面,勾选I Agree To the Terms of the NVIDIA TensorRT License Agreement

TensorRT – Windows下TensorRT下载与配置-StubbornHuang Blog

点击勾选之后会出来TensorRT 7的可供下载的版本,点开某个具体版本,根据自己安装的CUDA版本选择具体的TensorRT 版本下载,比如电脑上安装的版本是CUDA 10.2,则下载TensorRT 7.2.3 for Windows 10 and CUDA 10.2 ZIP package,注意虽然这上面是写着Windows 10,但是我在Win 7上也可以用。

TensorRT – Windows下TensorRT下载与配置-StubbornHuang Blog

2 下载相应版本的cuDNN库

TensorRT 下载下来之后是一个zip包,以上述TensorRT 7.2.3为例,下载之后zip包名为TensorRT-7.2.3.4.Windows10.x86_64.cuda-10.2.cudnn8.1.zip

在这其中就说明了cuda版本为cuda10.2,cudnn版本为cudnn8.1,如果之前在配置CUDA版本时,cuDNN的版本不是对应的版本,需下载TensorRT对应的cuDNN版本库,

否则在运行时会报无法找到cuDNN动态库的错误。

3 TensorRT在实际项目中的配置

TensorRT本质上就是一个第三方库,第三方一般都包括include,lib,dll三个文件夹,在下载的TensorRT的文件夹下也包含include和lib文件夹

TensorRT – Windows下TensorRT下载与配置-StubbornHuang Blog

其中include包含了头文件,而lib文件夹下包含了lib和dll文件,所以可以按常规的第三方库的配置方式配置TensorRT,在Visual Studio中针对某个项目进行包含目录、库目录配置即可。