一种基于跨模态注意力机制的双流视频分类方法和装置
基本信息
| 申请号 | CN201910294018.X | 申请日 | - |
| 公开（公告）号 | CN110188239A | 公开（公告）日 | 2021-06-22 |
| 申请公布号 | CN110188239A | 申请公布日 | 2021-06-22 |
| 分类号 | G06F16/75;G06F16/73;G06K9/62;G06N3/04 | 分类 | 计算；推算；计数; |
| 发明人 | 迟禄;严慧;田贵宇;穆亚东;陈刚;王成成;黄波;韩峻;糜俊青 | 申请（专利权）人 | 中星微技术股份有限公司 |
| 代理机构 | 北京君尚知识产权代理事务所（普通合伙） | 代理人 | 邱晓锋 |
| 地址 | 100871 北京市海淀区颐和园路5号 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明涉及一种基于跨模态注意力机制的双流视频分类方法和装置。与传统的双流方法不同，本发明在预测结果之前就将两个模态（甚至更多模态）的信息进行了融合，因此能够更加高效充分，同时，由于在较早阶段就进行了信息交互，单个分支在后阶段已经具有了另一分支的重要信息，单分支的精度已经与传统双流方法持平甚至超过，单分支的参数量要比传统双流方法少很多；相比非局部神经网络，本发明设计的注意力模块能够跨模态，而不仅仅只在单模态内部使用注意力机制，本发明提出的方法在两个模态相同的情况下其效果等价于非局部神经网络。 |
