Pytorch – 内置的LSTM网络torch.nn.LSTM参数详解与使用示例
1 torch.nn.LSTM torch.nn.LSTM是pytorch内置的LSTM模块。 对于torch.nn.LSTM输入序列的每一个元素,都使用以下经典的LSTM计算过程: \begin{array}{c} i_{t}=\sigma\left(W_{i i} x_{t}+b_{i i}+W…
- Pytorch
- 2022-06-26
深度学习 – 理解LSTM网络[翻译]
翻译自:http://colah.github.io/posts/2015-08-Understanding-LSTMs/ 1 Recurrent Neural Networks 循环神经网络 人类并不是每秒钟都从零开始思考。当你读这篇文章时,你根据对前面单词的理解来理解每个单词。你不会把一切都扔掉…
- 深度学习
- 2022-06-25
Pytorch – 内置的CTC损失函数torch.nn.CTCLoss参数详解与使用示例
CTC(Connectionist Temporal Classification)主要是处理不定长序列对齐问题,而CTCLoss主要是计算连续未分段的时间序列与目标序列之间的损失。CTCLoss对输入与目标可能对齐的概率求和,产生一个相对于每个输入节点可微分的损失值。假设输入到目标的对应关系是“多…
- Pytorch
- 2022-06-21
深度学习 – CTC解码算法详解
原文链接:https://xiaodu.io/ctc-explained/ 原文作者:yudonglee 本文总共分为五部分来全面阐述CTC算法(本篇为Part 1): Part 1:Training the Network(训练算法篇),介绍CTC理论原理,包括问题定义、公式推导、算法过程等。Pa…
- 深度学习
- 2022-06-19
深度学习 – CTC算法原理详解
这是我看过很容易理解的讲CTC的文章,对小白很友好,实在没忍住,转载一波。 原文链接:https://xiaodu.io/ctc-explained/ 原文作者:yudonglee 现实应用中许多问题可以抽象为序列学习(sequence learning)问题,比如词性标注(POS Tagging)…
- 深度学习
- 2022-06-18
深度学习 – CNN中卷积层、池化层、全连接层的输出参数大小的计算
CNN(Convolutional Neural Networks,卷积神经网络),CNN在图像、提取空间信息中有着广泛的应用,CNN通常包含以下几种神经层: 卷积层 Convolutional layer 池化层 Pooling layer 全连接层 Fully-Connected layer 线…
- 深度学习
- 2022-06-09
Mediapipe – 关于对Mediapipe C++ SDK使用不当造成的内存泄漏和内存溢出问题的记录
1 关于对Mediapipe C++ SDK使用不当造成的内存泄漏和内存溢出问题的记录 最近在对我的开源项目:https://github.com/HW140701/GoogleMediapipePackageDll进行性能测试的时候发现,检测一帧视频帧的检测延时很长,一帧大概有20-40ms,所以…
- 姿态估计
- 2022-05-09
Sigmoid激活函数的快速替代函数以及相应的C++实现
1 Sigmoid Sigmoid激活函数的公式: sigmoid(x) = \frac{1}{1+e^{-x} } 相同的,该函数也可以写成: sigmoid(x) = \frac{1}{1+e^{-x} } = \frac{e^{x} }{1+e^{x}} = \frac{1}{2} tanh(…
- AI
- 2022-04-16
人工智能 – YOLO v3,YOLO v4,YOLO v5等版本演变史
本文译自:https://towardsdatascience.com/yolo-v4-or-yolo-v5-or-pp-yolo-dad8e40f7109 ,翻译这篇文章目的是由于这篇文章对YOLO目标检测框架的整个发展说的很明白,也解释了自己多年以来对YOLO版本众多的疑问。文章中引用了YOLO…
- AI
- 2022-04-08
Pytorch – transpose和permute函数的区别和用法
1 transpose和permute函数的区别和用法 Pytorch中的transpose和permute方法都可以实现tensor维度之间的变换,transpose一次只能转换两个维度,而permute可以根据指定维度顺序一次转换多个维度,下面将简要介绍下transpose和permute方法。…
- Pytorch
- 2022-04-01
Pytorch – 使用torch.matmul()替换torch.einsum(‘nkctv,kvw->nctw’,(a,b))算子模式
在本文中,我将介绍如何使用普通算子matmul对torch.einsum('nkctv,kvw->nctw',(a,b))的算子模式进行替代。之前在另一篇文章:https://www.stubbornhuang.com/2065/中我已经详细介绍了pytorch的matmul方法,以及如何使用tor…
- Pytorch
- 2022-04-01
Pytorch – 使用torch.matmul()替换torch.einsum(‘bhxyd,md->bhxym’,(a,b))算子模式
在本文中,我将介绍如何使用普通算子matmul对torch.einsum('bhxyd,md->bhxym',(a,b))的算子模式进行替代。之前在另一篇文章:https://www.stubbornhuang.com/2065/中我已经详细介绍了pytorch的matmul方法,以及如何使用tor…
- Pytorch
- 2022-04-01