深度学习 – 语音识别框架wenet的非流式与流式混合训练机制
1 wenet的非流式与流式混合训练机制 wenet实现了语音识别非流式与流式混合训练的机制。通过细读源码，其主要是通过动态修改网络的Encoder层（在wenet中主要使用了TransformerEncoder和Conformer）的attention mask来影响Encoder层中Self-A…
- 深度学习
- 2022-08-11
书籍翻译 – Cloth Simulation for Computer Graphics 中文翻译
1 Cloth Simulation for Computer Graphics 中文翻译 开一个新坑，对Cloth Simulation for Computer Graphics这本介绍计算机图形学中的布料模拟介绍的书进行翻译，应该不会烂尾吧。 翻译目录： Abstract中文翻译：https:…
- Cloth Simulation for Computer Graphics翻译
- 2022-08-10
书籍翻译 – Cloth Simulation for Computer Graphics，Abstract中文翻译
摘要 基于物理的动画效果在动画片中非常常见，甚至在真人电影特效中也非常常见。最近的电影会经常出现一些特效，如爆炸或者虚拟世界。布料模拟效果与上述的使用的特效其实没有什么不同，并且无处不在，因为我们都希望虚拟角色上的衣服也能呈现真实的效果。 本书的重点是基于物理的布料模拟。我们首先介绍布料模拟的背景知…
- Cloth Simulation for Computer Graphics翻译
- 2022-08-10
深度学习 – 语音识别框架wenet源码wenet/utils/mask.py中的mask机制
在阅读工业级语音识别框架wenet的源码的过程中，wenet/utils/mask.py中提供的各种mask函数非常重要，其实现了wenet论文Unified Streaming and Non-streaming Two-pass End-to-end Model for Speech Recog…
- 深度学习
- 2022-08-10
资源分享 – Rotation Transforms for Computer Graphics , First Edition 英文PDF下载
1 Rotation Transforms for Computer Graphics , First Edition 英文PDF下载download 1.1 书籍简介 本书全面介绍了在2D和3D计算机图形中旋转点和帧的数学技术。众所周知，这种变换很难可视化，这就是本书包含大量插图的原因。 从在编辑…
- 计算几何与计算机图形学资源
- 2022-08-09
Pytorch – 模型微调时删除原有模型中的某一层的方法
本文以去除Pytorch预置的ResNet18网络中最后一层全连接分类层为例，说明模型微调时如何去除模型中某一层的方法。 我们想要在模型中去掉某一层实际上就等效于在该层不进行任何操作，直接将上一层的值直接返回即可，下面提供了3种方法进行选择。 1 使用自定义nn.Module替换指定层 在本方法中，…
- Pytorch
- 2022-08-08
资源分享 – Artificial Intelligence for Games , Third Edition 英文PDF下载
1 Artificial Intelligence for Games , Third Edition 英文PDF下载 1.1 书籍简介 人工智能是每个电子游戏不可或缺的一部分。这本书帮助专业人员跟上快速发展的游戏行业不断发展的技术进步，并为学生提供他们所需的最新信息，以快速启动他们的职业生涯。这一…
- 计算几何与计算机图形学资源
- 2022-08-07
Pytorch – 用Pytorch实现ResNet
1 引言 在深度学习中，通过简单的堆叠网络层增加网络深度的方式并不能增加网络的性能，另外，深度网络在训练时容易引起“梯度消失”的问题（即梯度反向传播到上层，重复的乘法可能会使梯度变得非常小）。 ResNet提出了残差学习来解决退化问题。对于一个堆积层结构（几层堆积而成）。对于一个堆积层结构（几层堆积…
- Pytorch
- 2022-08-06
Pytorch – masked_fill方法参数详解与使用
1 torch.Tensor.masked_fill参数详解与使用 1.1 torch.Tensor.masked_fill参数详解 1. 函数形式 torch.Tensor.masked_fill(mask, value) 2. 函数功能 输入的mask需要与当前的基础Tensor的形状一致。 将…
- Pytorch
- 2022-08-05
Pytorch – 手动调整学习率以及使用torch.optim.lr_scheduler调整学习率
1 Pytorch中学习率的调整方法 在Pytorch中调整训练过程中的学习率可以有两种方式： 一种是利用torch.optim.lr_scheduler提供的学习调整的方法 另一种是手动调整学习率，即调整优化器参数组中的lr参数 1.1 手动调整学习率 手动调整学习率的代码如下，我们在函数adju…
- Pytorch
- 2022-08-04
Pytorch – torch.optim优化器
深度学习的目标是通过不断改变网络参数，使得参数能够对输入做各种非线性变换拟合输出，本质上就是一个函数去寻找最优解，只不过这个最优解是一个矩阵，而如何快速求得这个最优解是深度学习研究的一个重点，以经典的resnet-50为例，它大约有2000万个系数需要进行计算，那么我们如何计算出这么多系数，有以下两…
- Pytorch
- 2022-08-03
Transformer – 理解Transformer必看系列之，2 Positional Encoding位置编码与Transformer编码解码过程
转载自： 链接：https://www.ylkz.life/deeplearning/p10770524/ 作者：空字符 少量行文修改 1 引言 经过此系列上一篇文章Transformer - 理解Transformer必看系列之，1 Self-Attention自注意力机制与多头注意力原理的介绍，…
- Transformer
- 2022-08-02
最新评论