一种增量式行业词典更新方法和系统
基本信息
申请号 | CN202011463306.2 | 申请日 | - |
公开(公告)号 | CN112632969A | 公开(公告)日 | 2021-04-09 |
申请公布号 | CN112632969A | 申请公布日 | 2021-04-09 |
分类号 | G06F40/242;G06F40/289;G06F40/30;G06F40/216;G06F40/253;G06F40/268;G06F16/335;G06F16/35 | 分类 | 计算;推算;计数; |
发明人 | 周超逸;周雅倩;马琦珉;陈诚;刘丙哲 | 申请(专利权)人 | 中国大地财产保险股份有限公司 |
代理机构 | 上海正旦专利代理有限公司 | 代理人 | 陆飞;陆尤 |
地址 | 200433 上海市杨浦区邯郸路220号 | ||
法律状态 | - |
摘要
摘要 | 本发明属于自然语言处理技术领域,具体为增量式行业词典更新方法和系统。本发明方法包括:基于浅层词汇统计分析的增量式选取候选词;基于深度语义计算的增量式选取行业词汇,包括:采用词语的深度语义计算的过滤和词语上下文分布的过滤从候选词中获取行业词汇;多策略人工验证,从候选行业词汇中,包括:使用不同的人工标注策略对得到的候选行业词汇进行排序,再选取部分词进行人工查看;人工查看进行三类标注:行业词汇、非行业词汇和边界错误字串,对基于浅层词汇统计分析和基于词语上下文分布过滤的参数进行微调,优化候选词选取的性能。本发明可以增量式地处理大规模语料,选择性使用人工标注信息,在低资源环境下更新构建行业词典。 |
