基于门机制的多级注意力模型的评论方面检测方法及系统
基本信息
申请号 | CN202110669829.0 | 申请日 | - |
公开(公告)号 | CN113254592B | 公开(公告)日 | 2021-10-22 |
申请公布号 | CN113254592B | 申请公布日 | 2021-10-22 |
分类号 | G06F16/33;G06F16/35;G06F40/211;G06F40/284;G06K9/62;G06N3/04;G06N3/08 | 分类 | 计算;推算;计数; |
发明人 | 王思宇;黄鹏;江岭 | 申请(专利权)人 | 成都晓多科技有限公司 |
代理机构 | 成都睿道专利代理事务所(普通合伙) | 代理人 | 薛波 |
地址 | 610000 四川省成都市天府新区兴隆街道湖畔路西段123号 | ||
法律状态 | - |
摘要
摘要 | 本发明提供一种基于门机制的多级注意力模型的评论方面检测方法及系统,待处理的句子转换为嵌入词形式的词向量矩阵后使用双向LSTM神经网络对所述词向量矩阵中的各个词向量进行处理,得到每个时间步的隐藏状态,并根据隐藏状态得到整个句子的隐藏状态向量矩阵作为该句子的编码;根据该隐藏状态向量矩阵计算对应的句子级自注意特征矩阵;计算各个时间步相对于最后一个时间步的权重,并根据该权重和隐藏状态计算得到对应的词级自注意特征向量;对句子级自注意特征矩阵进行拉伸操作并通过全连接层得到句子级自注意力特征向量,通过一个门机制混合句级注意力的向量和词级注意力的向量后根据得到的向量分析句子的方面类别概率,确定句子的方面类别。 |
