文本压缩方法和装置

基本信息

申请号 CN201010586545.7 申请日 -
公开(公告)号 CN102567322B 公开(公告)日 2015-04-01
申请公布号 CN102567322B 申请公布日 2015-04-01
分类号 G06F17/30(2006.01)I 分类 计算;推算;计数;
发明人 仇睿恒;胡薇 申请(专利权)人 北京北大方正技术研究院有限公司
代理机构 北京天昊联合知识产权代理有限公司 代理人 北京大学;北大方正集团有限公司;北京北大方正技术研究院有限公司
地址 100871 北京市海淀区颐和园路5号
法律状态 -

摘要

摘要 本发明提供一种适用于中文等非拉丁语种文本的压缩方法,包括:从待压缩的文本中筛选满足预定词长和出现频率条件的词;根据筛选词的出现频率对筛选词分配编码;利用分配的编码对所述文本进行压缩。相应地,提供一种文本压缩装置。本发明以词为单位提取待压缩文本中的备选词,并根据备选词的出现频率对备选词进行筛选,以仅保留出现频率相对大的词,从而有效提取中文等非拉丁语种文本数据中的高频扩展词,缩小字典中被编码的词语的总数,并且通过利用这些编码对中文等非拉丁语种文本进行压缩,获得较高的压缩率。