一种基于深度学习的无监督文本检索方法

基本信息

申请号 CN202110597764.3 申请日 -
公开(公告)号 CN113254586B 公开(公告)日 2021-11-05
申请公布号 CN113254586B 申请公布日 2021-11-05
分类号 G06F16/33(2019.01)I;G06F40/126(2020.01)I;G06F40/216(2020.01)I;G06F40/284(2020.01)I 分类 计算;推算;计数;
发明人 杨敏;贺倩明;方正 申请(专利权)人 深圳得理科技有限公司
代理机构 北京市诚辉律师事务所 代理人 耿慧敏;朱伟军
地址 518055广东省深圳市南山区深圳大学城学苑大道1068号
法律状态 -

摘要

摘要 本发明公开了一种基于深度学习的无监督文本检索方法。该方法包括:对于待查询文本,根据其文本向量与数据库中存储的被匹配文本的文本向量的相似度返回检索结果,其中,被匹配文本的文本向量根据以下步骤生成:对于输入文本,基于注意力机制的预训练模型挖掘词语间的语义联系,将文本序列转换成词向量序列;对于得到的词向量序列,结合领域内词汇的平滑逆频率对词向量进行加权,生成第一文本向量,其中所述领域内词汇的平滑倒频率反映词语在领域文献中的出现次数;获取领域内文本向量的主成分,并从所述第一文本向量中减去对应的主成分,获得第二文本向量,作为文本向量存储。利用本发明能够提升检索的准确性和效率。