一种用于文本段落划分的方法和装置
基本信息
申请号 | CN201910927810.4 | 申请日 | - |
公开(公告)号 | CN110674635A | 公开(公告)日 | 2020-01-10 |
申请公布号 | CN110674635A | 申请公布日 | 2020-01-10 |
分类号 | G06F40/284(2020.01) | 分类 | 计算;推算;计数; |
发明人 | 李敏; 吴家鸣 | 申请(专利权)人 | 北京妙笔智能科技有限公司 |
代理机构 | 厦门福贝知识产权代理事务所(普通合伙) | 代理人 | 北京妙笔智能科技有限公司 |
地址 | 100015 北京市朝阳区酒仙桥北路9号(厂区)10幢二层A5-12 | ||
法律状态 | - |
摘要
摘要 | 本申请公开了一种用于文本段落划分的方法和装置。该方法的一具体实施方式包括:计算各自然段之间的相似度数值,然后计算所述相似度数值的平均值,再基于门槛值进行大段落划分;对所述大段落分别进行词语特征值计算,并计算所述大段落中特征值最大的n个共同词的熵;基于所述相似度数值的平均值进行门槛值滑动,通过不同的门槛值分别计算所述共同词的熵,取所述熵最小的划分结果为最优划分。该实施方式有利于提高段落相似性的门槛值确定的准确性,从而提高文本段落划分的准确性。 |
