基于语境向量反馈的槽填充和意图检测联合建模方法

基本信息

申请号 CN201911331309.8 申请日 -
公开(公告)号 CN111177381A 公开(公告)日 2020-05-19
申请公布号 CN111177381A 申请公布日 2020-05-19
分类号 G06F16/35;G06K9/62 分类 计算;推算;计数;
发明人 蔡剑锋;孙忆南;陈晓碧 申请(专利权)人 深圳市傲立科技有限公司
代理机构 北京联瑞联丰知识产权代理事务所(普通合伙) 代理人 赵娜
地址 518000 广东省深圳市龙岗区坂田街道五和大道和成世纪名园3A栋1101-1102
法律状态 -

摘要

摘要 本发明公开了一种基于语境向量反馈的槽填充和意图检测联合建模方法。该方法包括如下步骤:将语句输入到语言模型预训练的词表征生成网络得到当前语句的词表征矩阵;将词表征矩阵输入到双向长短期记忆网络并利用注意力机制获得槽特征矩阵和意图特征向量;将槽特征矩阵和意图特征向量进行处理获得语境向量;将语境向量分别和槽特征矩阵和意图特征向量拼接后输入全连接网络得到槽标注矩阵和意图权重向量,进而获得语句的意图和槽信息。利用本发明实施例,可以在意图识别和槽填充任务中增加全局的语境信息辅助判断,提升任务的准确性,使得模型效果明显优于其他语言理解模型,具有很大的实用价值。