基于全文检索分布式海量文本的存储方法及装置

基本信息

申请号 CN202210108903.6 申请日 -
公开(公告)号 CN114443801A 公开(公告)日 2022-05-06
申请公布号 CN114443801A 申请公布日 2022-05-06
分类号 G06F16/31(2019.01)I;G06F40/284(2020.01)I;G06F40/289(2020.01)I 分类 计算;推算;计数;
发明人 王飞;许欢庆;曾雪峰;季仁通;孙敏 申请(专利权)人 北京迅奥科技有限公司
代理机构 北京知呱呱知识产权代理有限公司 代理人 胡乐
地址 211299江苏省南京市雨花台区板桥街道朝阳西苑商务大厦34幢2楼201室
法律状态 -

摘要

摘要 本发明公开了一种基于全文检索分布式海量文本的存储方法及装置,包括抽取内外部文档中的有用信息;将抽取的有用信息通过预先设置的匹配规则或模板进行解析,转换为统一的XML文件;将处理过的XML文件数据压缩打包成ZIP压缩格式,加载进内存,并建立索引;加载进内存进行存储时采用关键词矩阵存储和倒排索引;本发明提供的基于全文检索分布式海量文本的存储方法及装置,能将海量的文信息进行分布式存储,并能通过关键词对文本内容进行读取,解决了数据库对海量数据处理的局限,使文本处理更加有效,利用全文库实现了对海量数据的存取。