Pytorch – 使用torch.matmul()替换torch.einsum(‘nkctv,kvw->nctw’,(a,b))算子模式
在本文中,我将介绍如何使用普通算子matmul对torch.einsum('nkctv,kvw->nctw',(a,b))的算子模式进行替代。之前在另一篇文章:https://www.stubbornhuang.com/2065/中我已经详细介绍了pytorch的matmul方法,以及如何使用torch.matmul()替换torch.einsum('nctw,cd->ndtw',(a,b))模式,感兴趣的朋友可以看一下。
1 使用torch.matmul()替换torch.einsum(‘nkctv,kvw->nctw’,(a,b))算子模式
torch.einsum('nkctv,kvw->nctw',(a,b))
的意思是将第一个维度为nkctv
的张量Tensor a与第二个维度为kvw
的张量Tensor b进行batch矩阵相乘得到维度为nctw
的结果张量Tensor。
这个einsum的算子模式的目的就是batch矩阵相乘,而这是可以通过matmul通过改写替换的。
首先我们将第二个张量a从nkctv
调整为ncktv
,这个时候第一个张量a的最后一个维度与调整后b的倒数第二个维度一致,这样就满足matmul的计算规则。然后使用torch.matmul()将两个Tensor进行batch矩阵相乘得到结果Tensor,而结果Tensor维度为ncktw
,然后再在结果Tensor的k维上求和,得到维度为nctw
的结果Tensor。
详细的替换代码和示例代码如下:
(1)资源收集自互联网,仅供自我学习,请在下载后24小时内删除该资源,如下载者将此资源用于其他非法用途,本站不承担任何法律责任;如有侵权,请立即联系我,马上删除!
(2)下载单个资源则点击立即下载或者立即购买按钮;本站VIP可下载本站所有资源。
(3)请不要使用手机以及电脑浏览器的无痕模式进行支付操作,以免造成支付成功但未显示下载链接。
(4)如遇支付问题或者资源失效问题请点击按钮点击反馈进行反馈或者发送说明邮件到stubbornhuang@qq.com
本文作者:StubbornHuang
版权声明:本文为站长原创文章,如果转载请注明原文链接!
原文标题:Pytorch – 使用torch.matmul()替换torch.einsum(‘nkctv,kvw->nctw’,(a,b))算子模式
原文链接:https://www.stubbornhuang.com/2069/
发布于:2022年04月01日 10:16:13
修改于:2023年06月26日 20:21:44
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
评论
50