一种中文的分词方法及装置
基本信息
申请号 | CN201711115252.9 | 申请日 | - |
公开(公告)号 | CN107918604B | 公开(公告)日 | 2021-06-25 |
申请公布号 | CN107918604B | 申请公布日 | 2021-06-25 |
分类号 | G06F40/289 | 分类 | 计算;推算;计数; |
发明人 | 杨良志;汪志新;丁德平;王向军 | 申请(专利权)人 | 彩讯科技股份有限公司 |
代理机构 | 北京品源专利代理有限公司 | 代理人 | 孟金喆 |
地址 | 518000 广东省深圳市南山区粤海街道高新区社区科苑南路3176号彩讯科技大厦三十一层 | ||
法律状态 | - |
摘要
摘要 | 本发明实施例公开了一种中文的分词方法及装置。所述方法包括:获取待分词文本的特征信息,其中,所述特征信息包括段落划分、标点符号或空格符中至少之一;根据特征信息,确定待分词文本中的所有自然区间;将自然区间划分为歧义区间和非歧义区间;确定歧义区间中的候选词,并将候选词与非歧义区间中的文本进行匹配;根据匹配结果确定候选词的分词规则,并按照分词规则对所述歧义区间的文本进行分词处理。通过采用上述技术方案,有效提高了分词结果与待分词文本语境之间的关联性,使得分词的准确度得到提升。相对于现有技术提供的分词方案,本发明实施例提供的技术方案计算量较小,在一定程度上也可以提高分词的快速性。 |
