基于HBASE的批量装载快速生成数据统计信息的方法
基本信息
| 申请号 | CN202010411311.2 | 申请日 | - |
| 公开（公告）号 | CN111625577A | 公开（公告）日 | 2020-09-04 |
| 申请公布号 | CN111625577A | 申请公布日 | 2020-09-04 |
| 分类号 | G06F16/2458(2019.01)I;G06F16/25(2019.01)I | 分类 | 计算；推算；计数; |
| 发明人 | 陈贇人;杨永锋 | 申请（专利权）人 | 贵州易鲸捷信息技术有限公司 |
| 代理机构 | 成都中炬新汇知识产权代理有限公司 | 代理人 | 罗韬 |
| 地址 | 550000贵州省贵阳市贵阳综合保税区都拉营综保路349号海关大楼8楼801 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了一种基于HBASE的批量装载快速生成数据统计信息的方法，属一种数据信息快速统计方法，步骤A、在HDFS目录下生成BulkLoad目录，用于存放将外部数据转换成HBASE格式的HFile文件；步骤B、在HDFS目录下生成BulkLoadStats统计信息目录，用于存放统计信息数据的HFile文件；该方法通过在第一次读取所有外部数据并将其转换为HBASE格式的HFile文件时，同时进行统计信息的数据收集，从而仅需一次全量外部数据的读取扫描即可完成原表与统计信息采样表数据的生成，比同类方法对于全量数据读取的性能提升了一倍，尤其适于对较大数据量的外部数据进行数据统计信息表生成。 |
