一种IndexR实时数据分析库
基本信息
申请号 | CN201710355812.1 | 申请日 | - |
公开(公告)号 | CN107133342A | 公开(公告)日 | 2017-09-05 |
申请公布号 | CN107133342A | 申请公布日 | 2017-09-05 |
分类号 | G06F17/30(2006.01)I;G06Q30/02(2012.01)I | 分类 | 计算;推算;计数; |
发明人 | 李华煜;韦万 | 申请(专利权)人 | 广州舜飞信息科技有限公司 |
代理机构 | 北京华仲龙腾专利代理事务所(普通合伙) | 代理人 | 广州舜飞信息科技有限公司 |
地址 | 510000 广东省广州市天河区棠东东路5号商业(部位:B-425) | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种IndexR实时数据分析库;IndexR实时数据分析库实现了一种可部署于分布式环境,可并行化处理,带索引的,列式的结构化数据格式。基于这种数据格式,IndexR构建了一个数据仓库系统(Data Warehouse),基于Hadoop生态,可以对海量数据集做快速统计分析(OLAP),数据可实时导入并且对于查询零延迟。IndexR为解决大数据场景下分析缓慢、数据延迟、系统复杂等问题而设计。本发明的IndexR实时数据分析库把数据存放于HDFS,使用Zookeeper在集群中通讯和交涉,使用Hive方便的管理分区数据,可以通过Kafka高速实时导入数据,查询层使用优秀的分布式查询引擎Apache Drill。 |
