文本压缩方法和装置
基本信息
申请号 | CN201010586545.7 | 申请日 | - |
公开(公告)号 | CN102567322B | 公开(公告)日 | 2015-04-01 |
申请公布号 | CN102567322B | 申请公布日 | 2015-04-01 |
分类号 | G06F17/30(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 仇睿恒;胡薇 | 申请(专利权)人 | 北京北大方正技术研究院有限公司 |
代理机构 | 北京天昊联合知识产权代理有限公司 | 代理人 | 北京大学;北大方正集团有限公司;北京北大方正技术研究院有限公司 |
地址 | 100871 北京市海淀区颐和园路5号 | ||
法律状态 | - |
摘要
摘要 | 本发明提供一种适用于中文等非拉丁语种文本的压缩方法,包括:从待压缩的文本中筛选满足预定词长和出现频率条件的词;根据筛选词的出现频率对筛选词分配编码;利用分配的编码对所述文本进行压缩。相应地,提供一种文本压缩装置。本发明以词为单位提取待压缩文本中的备选词,并根据备选词的出现频率对备选词进行筛选,以仅保留出现频率相对大的词,从而有效提取中文等非拉丁语种文本数据中的高频扩展词,缩小字典中被编码的词语的总数,并且通过利用这些编码对中文等非拉丁语种文本进行压缩,获得较高的压缩率。 |
