Transformer的结构
以下内容摘自：https://transformers.run/back/transformer/，里面”原始结构“部分的内容对我自己理解Transformer结构有很大的帮助。 1 Transformer的结构 1.1 注意力层 Transformer 模型的标志就是采用了注意力层 (Attent…
- Transformer
- 2024-03-11
Seq2Seq模型和Attention机制
转载自：Seq2Seq模型和Attention机制，如侵联删 pdf: NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE 1 RNN的多种结构 首先从RNN的结构说起，根据输出和输入序列不同数量RNN可以有多种…
- Transformer
- 2024-03-08
Attention和Self-Attention的区别
1 Attention和Self-Attention的区别 Attention：以Encoder-Decoder框架为例，输入Source和输出Target内容是不一样的，比如对于英-中机器翻译来说，Source是英文句子，Target是对应的翻译出的中文句子，Attention发生在Target的…
- Transformer
- 2024-03-08
GPU并发？理解CUDA的并发执行与计算资源调度
## 1 CUDA计算是否可以并发？ CUDA程序运行中CPU端一般叫做host，GPU端一般叫做Device。 CPU端对计算资源进行划分的单位为进程，GPU端对计算资源进行划分的单位为context。多核心CPU可以同一时刻多个进程/线程并发执行，GPU一个时刻只允许一个context允许，也就…
- NVIDIA
- 2024-01-19
NCNN – ncnn将onnx模型转换为fp16模型
本篇文章将详细说明如何将onnx模型转换为在ncnn中可以使用的fp16半精度模型。 本文所使用的操作系统为Windows，使用的全部是ncnn发布包中自带的工具。首先使用onnx2ncnn将onnx模型转换为ncnn的param和bin模型，然后使用ncnnoptimize工具将上一步转换的par…
- NCNN
- 2023-12-07
轻量级目标检测模型和算法整理
1 轻量级目标检测模型 目标检测（Object Detection）的任务是找出图像中所有感兴趣的目标（物体），确定它们的类别和位置，是计算机视觉领域的核心问题之一。目前目标检测算法发展和更新非常快，各种改进的目标检测算法不仅在精度上越来越高，体积越来于晓，并且推理速度越来越快。许多考虑在边缘设备和…
- 目标检测
- 2023-12-06
目标检测 – 使用labelimg制作自定义目标检测数据集
1 下载labelimg标注工具 labelimg github地址：https://github.com/HumanSignal/labelImg 进入Release页面，为了避免需要创建Python环境，这里直接下载Windows的二进制exe包。 本文以Windows二进制包windows_v…
- 目标检测
- 2023-11-23
目标检测 – VOC数据格式和Yolo数据格式
在使用labelimg标注图片时，lable提供了两种标注信息保存格式，一种是VOC，另一种则是Yolo。 1 VOC数据格式 在labelimage中，对一个图片完成标注之后，如果默认选择的是PascalVOC格式 则会将标注信息保存为以下的xml文件，主要的信息包括： filename：图片名称…
- 目标检测
- 2023-11-23
词汇手语识别、连续手语识别、连续手语翻译开源数据集整理
1 Word-level Sign Language Recognition/Isolated Sign Language Recognition 手语词汇识别数据集 1.1 CSL-500 国家：中国 官方网站：https://ustc-slr.github.io/datasets/2015_cs…
- 深度学习
- 2023-11-15
语音识别的RTF和RTX评价指标
语音识别除了衡量语音识别的准确度之外，另外一个重要的指标就是处理的速度和延迟。其中RTF为衡量实时语音识别处理速度的重要指标，RTX为衡量离线语音识别处理速度的重要指标。 1 RTF RTF(Real Time Factor)，为实时语音识别的处理速度评价指标，其计算公式如下 RTF=\frac{A…
- 深度学习
- 2023-10-30
yolov5 – 导出onnx模型教程
1 yolov5导出onnx模型 yolov5 Github：https://github.com/ultralytics/yolov5 yolov5 导出模型官方文档：https://docs.ultralytics.com/yolov5/tutorials/model_export/ 1.1 配…
- 深度学习
- 2023-10-25