一种双注意力训练序列生成方法、装置及可读存储介质

基本信息

申请号 CN202110646605.8 申请日 -
公开(公告)号 CN113378925A 公开(公告)日 2021-09-10
申请公布号 CN113378925A 申请公布日 2021-09-10
分类号 G06K9/62(2006.01)I 分类 计算;推算;计数;
发明人 胡光敏;娄坤;姜黎 申请(专利权)人 杭州芯声智能科技有限公司
代理机构 成都知都云专利代理事务所(普通合伙) 代理人 赵正寅
地址 310000浙江省杭州市杭州经济技术开发区白杨街道科技园路20号14幢3层02室-15
法律状态 -

摘要

摘要 本发明提供的一种双注意力训练序列生成方法、装置及可读存储介质,涉及计算机深度学习领域。本发明通过构建面向输入文本中字符的重要度和输入文本中字符对应槽值关联度的双注意力机制模型来生成对应输入文本的双注意力训练序列,槽值关联度根据槽值的query释义矩阵作为先验知识进行衡量,能使训练序列同时具备重要度特征和关联度特征;本发明通过Bi‑lstm层使训练序列前后关联,并计算其权重占比,从而得到输入文本中字符的重要度,将该训练序列作为训练数据能得到对重要信息关注度更好的模型;本发明通过双序列标注法减少了传统标注法所使用到的槽值标签数目,有助于训练模型的拟合和效率提升。